Redis HA方案

news/2024/7/4 9:13:45

本文主要介绍一种通过Jedis&Sentinel实现Redis集群高可用方案,该方案需要使用Jedis2.2.2及以上版本(强 制),Redis2.8及以上版本(可选,Sentinel最早出现在Redis2.4中,Redis2.8中Sentinel更加稳定),Redis集 群是以分片(Sharding)加主从的方式搭建,满足可扩展性的要求;

Redis Sentinel介绍

Redis Sentinel是Redis官方提供的集群管理工具,主要有三大功能:
监控,能持续监控Redis的主从实例是否正常工作;
通知,当被监控的Redis实例出问题时,能通过API通知系统管理员或其他程序;
自动故障恢复,如果主实例无法正常工作,Sentinel将启动故障恢复机制把一个从实例提升为主实例,其他的从实例将会被重新配置到新的主实例,且应用程序会得到一个更换新地址的通知。
Redis Sentinel是一个分布式系统,可以部署多个Sentinel实例来监控同一组Redis实例,它们通过Gossip协议来确定一个主实例宕机,通过 Agreement协议来执行故障恢复和配置变更,一般在生产环境中部署多个实例来提高系统可用性,只要有一个Sentinel实例运行正常,就能保证被 监控的Redis实例运行正常(类似Zookeeper,通过多个Zookeeper来提高系统可用性);
本文不涉及Sentinel的实现细节和工作原理,读者可以阅读其他文章了解;

Redis HA方案

HA的关键在于避免单点故障及故障恢复,在Redis Cluster未发布之前,Redis一般以主/从方式部署(这里讨论的应用从实例主要用于备份,主实例提供读写,有不少应用是读写分离的,读写操作需要 取不同的Redis实例,该方案也可用于此种应用,原理都是相通的,区别在于数据操作层如何封装),该方式要实现HA主要有如下几种方案:
1,keepalived:通过keepalived的虚拟IP,提供主从的统一访问,在主出现问题时,通过keepalived运行脚本将从提升为主, 待主恢复后先同步后自动变为主,该方案的好处是主从切换后,应用程序不需要知道(因为访问的虚拟IP不变),坏处是引入keepalived增加部署复杂 性;
2,zookeeper:通过zookeeper来监控主从实例,维护最新有效的IP,应用通过zookeeper取得IP,对Redis进行访问;
3,sentinel:通过Sentinel监控主从实例,自动进行故障恢复,该方案有个缺陷:因为主从实例地址(IP&PORT)是不 同的,当故障发生进行主从切换后,应用程序无法知道新地址,故在Jedis2.2.2中新增了对Sentinel的支持,应用通过 redis.clients.jedis.JedisSentinelPool.getResource()取得的Jedis实例会及时更新到新的主实例 地址。
笔者所在的公司先使用了方案1一段时间后,发现keepalived在有些情况下会导致数据丢失,keepalived通过shell脚本进行主从切换, 配置复杂,而且keepalived成为新的单点,后来选用了方案3,使用Redis官方解决方案;(方案2需要编写大量的监控代码,没有方案3简便,网 上有人使用方案2读者可自行查看)


选用Sentinel出现的问题

Sentinel&Jedis看上去是个完美的解决方案,这句话只说对了一半,在无分片的情况是这样,但我们的应用使用了数据分片 -sharing,数据被平均分布到4个不同的实例上,每个实例以主从结构部署,Jedis没有提供基于Sentinel的 ShardedJedisPool,也就是说在4个分片中,如果其中一个分片发生主从切换,应用所使用的ShardedJedisPool无法获得通知, 所有对那个分片的操作将会失败。
本文提供一个基于Sentinel的ShardedJedisPool,能及时感知所有分片主从切换行为,进行连接池重建,源码见 ShardedJedisSentinelPool.java

ShardedJedisSentinelPool实现分析

构造函数



 类似之前的Jedis Pool的构造方法,需要参数poolConfig提供诸如maxIdle,maxTotal之类的配置,masters是一个List,用来保存所有分 片Master在Sentinel中配置的名字(注意master的顺序不能改变,因为Shard算法是依据分片位置进行计算,如果顺序错误将导致数据存 储混乱),sentinels是一个Set,其中存放所有Sentinel的地址(格式:IP:PORT,如127.0.0.1:26379),顺序无 关;


初始化连接池


在构造函数中,通过方法

 取得当前所有分片的master地址(IP&PORT),对每个分片,通过顺次连接Sentinel实例,获取该分片的master地址,如果 无法获得,即所有Sentinel都无法连接,将休眠1秒后继续重试,直到取得所有分片的master地址,代码块如下:

通过

 初始化连接池,到此连接池中的所有连接都指向分片的master;


监控每个Sentinel


在方法

 最后,会为每个Sentinel启动一个Thread来监控Sentinel做出的更改:

该线程的run方法通过Jedis Pub/Sub API(实现JedisPubSub接口,并通过jedis.subscribe进行订阅)向Sentinel实例订阅“+switch-master” 频道,当Sentinel进行主从切换时,该线程会得到新Master地址的通知,通过master name判断哪个分片进行了切换,将新master地址替换原来位置的地址,并调用initPool(List masters)进行Jedis连接池重建;后续所有通过该连接池取得的连接都指向新Master地址,对应用程序透明;


应用示例



 
总结


本文通过现实中遇到的问题,即在Redis数据分片的情况下,在使用Sentinel做HA时,如何做到主从的切换对应用程序透明,通过Jedis的 Pub/Sub功能,能同时监控多个分片的主从切换情况,并通过监听到的新地址重新构造连接池,后续从连接池中取得的所有连接都指向新地址。该方案的关键 是:使用sentinel做HA,Jedis版本必须2.2.2及以上,所有访问Redis实例的连接都必须从连接池中获取;


该项目的GitHub主页: https://github.com/warmbreeze/sharded-jedis-sentinel-pool

 

http://www.tuicool.com/articles/naeEJbv


http://www.niftyadmin.cn/n/3297555.html

相关文章

php百度天气api接口,php使用百度天气接口示例

这篇文章主要介绍了百度天气接口使用示例,需要的朋友可以参考下注意地区要转码的百度ak申请地址:复制代码 代码如下:$city"嘉兴";$content file_get_contents("http://api.map.baidu.com/telematics/v3/weather?location%E5%98%89%E5%85%B4&ou…

redis -Spring与Jedis集群 Sentinel

首先不得不服Spring这个宇宙无敌的开源框架,几乎整合了所有流行的其它框架,http://projects.spring.io/spring-data/ 从这上面看,当下流行的redis、solr、hadoop、mongoDB、couchBase... 全都收入囊中。对于redis整合而言,主要用到…

轮播图会用到java的哪些功能,原生JS实现的轮播图功能详解

本文实例讲述了原生JS实现的轮播图功能。分享给大家供大家参考,具体如下:一、效果预览:由于只能上传2M以下的图片,这里只截取了自动切换的效果:二、编写语言HTML、CSS、原生JS三、编写思路(一)HTML部分1、.slide意为滑…

常用 ajax 框架比较--摘自网络

No1—Prototype http://www.prototypejs.org/特点:一个非常优雅的JS库,定义了JS的面向对象扩展,DOM操作API,事件等等,之上还有rico/script.aculo.us实现一些JS组件功能和效果(尚不够完善),以prototype为核心…

kafka mysql 迁移,kafka迁移数据目录

问题先前存储kafka日志的磁盘空间太小,zabbix警报不断,于是加了磁盘,将日志存到新磁盘上。解决方案依次在每台机器上操作,保证有机器能响应producer和consumer的操作。加磁盘需要重启服务器。1. 拷贝日志服务器启动后,…

js时间格式化通用方法

/*** 时间工具类*//*** 获取现在的时间戳(精确到s)* 使用:new Date().nowTimestamp* type {number}*/ Date.prototype.nowTimestamp Date.parse(new Date()) / 1000;/*** 时间戳转换成Date* 使用:new Date().timestampToDate(149…

redis 3.0的集群部署

文章转载自:http://hot66hot.iteye.com/blog/2050676 转载请注明出处:http://hot66hot.iteye.com/admin/blogs/2050676 最近研究redis-cluster,正好搭建了一个环境,遇到了很多坑,系统的总结下,等到redis3 release出来后,换掉memCache 集群. 一:关于redis…

部分去重复php,找到重复小数的重复部分 – PHP

要说这并不像我想象的那么容易.但我得到了它的工作.我确信有一种更有效的方法可以做到这一点,希望其他人会改进这一点.特别是它被打印的部分.$number1 $number / $divisor;if(findRepeat( $number1 ) ! false){$result findRepeat($number1);$leadingNum strstr($number1, .…