redis,一款技术研发者们耳熟能详的内存数据库 。作为数据库,存储数据的容量都是有限的,不能超过主机内存的大小 。通常而言,一台主机服务器的内存只有十几G,较大可达100G或200G 。
![Redis内存又不够用了?教你几种集群方案轻松甩掉存储难题](http://img.jiangsulong.com/220403/091G95311-0.jpg)
文章插图
为了解决Redis存储瓶颈问题,各大企业纷纷开始寻找解决方案,将数据分片(sharding)存储在多个Redis实例之中,每一个分片就是一个Redis实例,然后实现多个Redis实例协同运行 。这就是Redis集群原理 。本篇将围绕Redis集群方案展开重点介绍 。
Redis集群实现方式:
- 分区,将数据分割划分到多个Redis实例中去,然后保证每个实例只保存key的一个子集;
- 通过多台计算机的内存和值构造更大的数据库;
- 通过多台计算机扩展计算能力;
- 通过多台计算机机和网络适配,扩展网络宽带 。
- 客户端分片
- 基于代理的分片
- 路由查询
客户端分片
客户端分片就是将分片工作放在业务程序端实现,程序代码根据Redis客户端预先定义好的路由规则,直接对不同的Redis实例进行分布式访问,最终再把结果汇集在一起 。
![Redis内存又不够用了?教你几种集群方案轻松甩掉存储难题](http://img.jiangsulong.com/220403/091G92001-1.jpg)
文章插图
这种方案的优势就在于所有逻辑都是可以控制的,没有第三方中间件干预,开发人员很清楚如何实现分片及路由规则,实现方法完全由自己掌控 。
但是客户端分片方案的弊端也是令开发者也是十分懊恼的 。由于客户端分片方案是一种静态的分片方案,无论是增加或是减少Redis实例的数量,都必须要开发者手动调整分片程序,对开发者的依赖很强;其次在运维上,该方案运维性较差,一旦集群数据出现问题,就需要开发人员和运维人员共同解决,在不同的客户端程序中,维护相同的分片逻辑成本很大,需要消耗巨大的开发成本才能保证两套业务系统分片逻辑一致 。所以,客户端分片方案并不适合中小型的企业使用 。
基于代理的分片
基于代理分片就是客户端发送请求到一个代理,由代理来解析客户端的数据,再将请求转发到正确的节点,最终将结果回复给客户端 。常用的基于代理的分片方案有两种,Twemproxy、codis 。
Twemproxy
Twemproxy是一款由Twitter开源的redis proxy方案,在Twitter、Yahoo都有使用 。当Twemproxy工作时,Redis客户端会把请求发送到Twemproxy,Twemproxy会使用一致性hash算法,根据路由规则发送正确的Redis实例,最后Twemproxy再把结果返给客户端,从而实现Redis集群 。
由于Twemproxy是单线程方案,所以只能使用单核cpu,如果前端含keepalive或haproxy相关代理,可以为Twemproxy做1+1准备 。
当Twemproxy应用于多台Redis服务器时,那么实现的性能只能达到单台Redis服务器80%,剩余20%性能损耗 。Redis-Sentinel是Redis官方推荐的一种高可用性解决方案,当用Redis做Master-slave的高可用方案时,如果Master宕机了,Twemproxy会订阅Sentinel,完成主备切换 。由于Redis-sentinel本身是一个独立运行的进程,它能监控多个master-slave集群,发现master宕机后可以进行自动切换 。
Twemproxy优点:
- 支持Redis和memcached两种集群代理;
- 后端Redis和memcached无需任何改动,只需要提供IP和端口给Twemproxy即可,操作简单;
- 支持无效Redis实例的自动删除;
- 支持状态监控......
- 无法动态扩容,如果需要扩容功能,必须研发人员手动迁移,比较繁琐;
- 由于Redis客户端的请求都需要经过Twemproxy才能到达Redis服务器,期间难免会产生性能损失;
- 无法平滑地扩容/缩容,对于运维人员来说,如果业务需要增加Redis实例,工作量会非常大......
Codis是由豌豆荚于2014年11月在GitHub上开源,基于Go和C语言,支持平滑增加Redis实例的集群解决方案 。使用Codis时,设置好下属的Redis实例,在需要连接Redis的地方改为连接Codis,之后Codis会以一个代理的身份接受请求,并使用一致性hash算法,将请求转接到具体Redis,最后再将结果返回到Codis 。作为基于代理的分片,功能与Twemproxy类似 。
Codis主要包含四大组件Codis Proxy(codis proxy)、Codis Manager(codisconfig)、Codis Redis(codis-server)和ZooKeeper,每一个组件都可以进行动态扩容 。
Codis Proxy:客户端连接到Redis代理服务,本身已实现了Redis协议,Redis客户端连接到Codis Proxy可以进行各种操作 。Codis Proxy是无状态的,一个业务可以通过Keepalived等负载均衡软件部署多个Codis Proxy;
推荐阅读
- Redis实现分布式锁与Zookeeper实现分布式锁区别
- 招聘|又一“铁饭碗”的招录公告来了,年薪可达18万,待遇不输公务员
- 刘魁鲁明暗中助,周乙死里又逃生 悬崖第二部
- 男朋友送的礼物有点贵应不应该接受,男朋友送的礼物又贵又不喜欢怎么办
- 招聘|又一国企春季招聘开始!六险二金,正式编制,安家费最高可达50万
- 德里克·罗斯|入春选择优质的马甲,达到减龄又时尚的效果,你的马甲选择对了吗
- 酸奶加珍珠粉做面膜效果怎么样,美白又祛痘
- 煮茶叶蛋怎么做才入味又好吃用什么茶叶更有营养吗
- 基于redis来实现的分布式锁
- 解析redis备份文件rdb的两种方法及对比