Redis设计与实现第15章 -- 复制 总结(旧版复制 新版复制 部分重同步 复制 心跳检测)

devtools/2024/11/28 12:29:30/

在Redis中,用户可以通过执行SLAVEOF命令或设置slaveof选项,让一个服务器(从服务器)去复制另一个服务器(主服务器),进行复制中的主从服务器双方的数据库将保存相同的数据。

15.1 旧版复制功能的实现

Redis在2.8版本以前使用的,分为同步和命令传播两个操作:

  • 同步用于从服务器的数据库状态更新至主服务器当前所处的数据库状态
  • 命令传播则用于主服务器的数据库状态被修改,导致主从服务器的数据库状态出现不一致时,让主从服务器的数据库重新回到一致状态

15.1.1 同步

当客户端向从服务器发送SLAVEOF命令,要求从服务器复制主服务器时,从服务器首先要执行同步操作,向主服务器发送SYNC命令完成,具体步骤如下:

  1. 从服务器向主服务器发送SYNC命令
  2. 收到SYNC命令的主服务器执行BGSAVE命令,在后台生成一个RDB文件,并且使用一个缓冲区记录从现在开始执行的所有写命令
  3. 执行完毕后将生成的RDB文件发送给从服务器,从服务器接收并载入这个RDB文件
  4. 主服务器将记录在缓冲区里的所有写命令发送给服务器

15.1.2 命令传播

在同步操作后,主从服务器的数据库达到一致状态,但是这种一致并不是一成不变,当主服务器执行客户端发送的写命令,主服务器的数据库可能被修改,不再一致。

为了继续达成一致,主服务器需要对从服务器执行命令传播操作:主服务器会把自己执行的写命令,发送给从服务器执行。

15.2 旧版复制功能的缺陷

从服务器对主服务器的复制可以分为以下两种情况:

  • 初次复制:从服务器以前没有复制过任何主服务器,或是从服务器当前要复制的主服务器和上一次复制的主服务器不同
  • 断线后重新复制:处理命令传播阶段的主从服务器因为网络原因中断了复制,但是从服务器通过自动重新连接重新连上了主服务器,并继续复制主服务器。

对于断线后重新复制来说,效率非常低。

15.3 新版复制功能的实现

Redis2.8版本以后 使用PSYNC命令,有完整重同步和部分重同步两种模式

  • 完整重同步用于处理初次复制情况,和SYNC命令的执行步骤基本一致
  • 部分重同步用于处理断线后重复制情况:当从服务器断线后重新连接主服务器时,如果条件允许,主服务器可以将断开连接期间执行的写命令发送给从服务器,以此保持一致。

15.4 部分重同步的实现

15.4.1 复制偏移量

主服务器和从服务器都会维护一个复制偏移量

  • 主服务器每次向从服务器传播N个字节的数据时,就将自己的复制偏移量的值加上N
  • 从服务器每次收到主服务器传播的N个字节的数据时,就把自己的复制偏移量加N

对比两个偏移量就可以知道主从服务器是否处于一致状态

15.4.2 复制积压缓冲区

是主服务器维护的一个固定长度先进先出队列,默认大小是1MB

当主服务器进行命令传播时,它不仅会把写命令发送给所有从服务器,还会将写命令入队到复制积压缓冲区里面,而且还会为队列的每个字节记录相应的复制偏移量。

当从服务器重新连上主服务器时,从服务器会通过PSYNC命令将自己的复制偏移量offset发送给主服务器,根据这个offset决定如何进行同步

  • 如果offset偏移量之后的数据仍然存在复制积压缓冲区里,主服务器将要对从服务器执行部分重同步操作
  • 相反:进行完整重同步

估算:复制积压缓冲区最小大小 = 从服务器断线后连上主服务器所需的平均时间(秒)* 主服务器平均每秒产生的写命令数据量

15.4.3 服务器运行ID

每个服务器都有自己的运行ID,服务器启动时自动生成,由40个随机的十六进制字符组成。

初次复制时,主服务器会把自己的运行ID传送给从服务器;断线重连后,会向当前连接的主服务器发送之前保存的运行ID:

  • 发送的运行ID和当前连接的主服务器的运行ID相同,部分重同步
  • 完整重同步

15.5 PSYNC命令的实现

调用方法有2种:

  1. 如果从服务器之前没有复制过任何主服务器,或之前执行过SLAVEOF no one命令,那么从服务器在开始一次新的复制时将向主服务器发送PSYNC ? -1命令,主动请求主服务器进行完整重同步
  2. 否则,如果从服务器已经复制过某个主服务器,那么从服务器在开始一次新的复制时,发送PSYNC 命令,其中runid是上一次复制的主服务器的运行ID,offset则是从服务器当前的复制偏移量。

回复有3种:

  1. 主服务器返回 +FULLRESYNC 回复,那么表示主服务器将与从服务器执行完整重同步操作:其中runid是主服务器的运行id,offset则是主服务器当前的复制偏移量,从服务器会把这个值作为自己的初始化偏移量
  2. 主服务器返回 +CONTINUE回复,表示执行部分重同步
  3. 主服务器返回 -ERR回复,表示主服务器的版本低于Redis 2.8,识别不了PSYNC命令

15.6 复制的实现

从服务器发送SLAVEOF命令,可以让从服务器去复制一个主服务器

15.6.1 步骤1:设置主服务器的地址和端口

客户端向从服务器发送SLAVEOF 127.0.0.1 6379,从服务器要做的是把客户端给定的主服务器IP地址127.0.0.1和端口6379保存到masterhost属性和masterport属性里

SLAVEOF命令是一个异步命令,复制工作在返回OK后开始执行

15.6.2 步骤2:建立套接字连接

从服务器创建连向主服务器的套接字连接,从服务器为这个套接字关联一个专门用于处理复制工作的文件事件处理器,主服务器把从服务器看作一个连接到主服务器的客户端来对待。

15.6.3 步骤3:发送PING命令

作用:检查套接字的读写状态是否正确,检查主服务器能否正常处理命令请求

回复:

  • 主服务器向从服务器返回一个命令回复,但是从服务器却不能在规定时间里读出命令回复的内容,表示网络连接状态不佳,从服务器断开并重新连接
  • 主服务器向从服务器返回一个错误,表示主服务器暂时没办法处理从服务器的命令请求,从服务器断开并重新创建套接字
  • 从服务器读取到PONG回复

15.6.4 步骤4:身份验证

决定是否进行身份验证,从服务器设置了masterauth选项才需要进行身份认证

在需要进行身份验证的情况下,从服务器将向主服务器发送一条AUTH命令,命令的参数为从服务器 masterauth选项的值。

可能遇到的情况:

  • 主服务器没有设置requirepass选项,从服务器也没有设置masterauth选项,复制继续
  • 从服务器发送的密码和主服务器的requirepass相同,继续;否则,主服务器返回invalid password错误。
  • 主服务器设置了requirepass选项,从服务器没有设置masterauth选项,主服务器返回NOAUTH错误;主服务器没有设置requirepass选项,从服务器设置了masterauth选项,主服务器返回no password is set错误。

15.6.5 步骤5:发送端口信息

从服务器执行命令 REPLCONF listening-port 向主服务器发送从服务器的监听端口号

主服务器会记录在从服务器所对应的客户端状态的slave_listening_port属性中

15.6.6 步骤6:同步

在同步操作执行前,只有从服务器是主服务器的客户端,但是执行同步操作后,主服务器也是从服务器的客户端。如果PSYNC命令执行的是完整重同步操作,那么主服务器需要把保存在缓冲区的写命令发送给从服务器执行;如果部分重同步,需要向从服务器发送保存在复制积压缓冲区里的写命令。

这两个都需要主服务器称为从服务器的客户端,这样才能互相发送命令请求和返回命令回复。

15.6.7 步骤7:命令传播

15.7 心跳检测

在命令传播阶段,从服务器默认以每秒一次的频率向主服务器发送命令

REPLCONF ACK <replication_offset>

其中replication_offset表示从服务器当前的复制偏移量

发送命令的三个作用:

15.7.1 检测主从服务器的网络连接状态

发送REPLCONF ACK命令可以用于检查两者之间的网络连接是否正常

15.7.2 辅助实现min-slaves配置选项

Redis的min-slaves-to-write和min-slaves-max-log两个选项可以防止主服务器在不安全的情况下执行写命令,比如配置是min-slaves-to-write = 3 ,min-slaves-max-log = 10

那么在从服务器的数量小于3个,或是三个从服务器的延迟lag值都>=10的时候,主服务器将拒绝执行写命令。

延迟值就是15.7.1里提到的

15.7.3 检测命令丢失

如果因为网络故障,主服务器传播给从服务器的写命令在半路丢失,那么当从服务器向主服务器发送REPLCONF ACK命令时,主服务器将发觉从服务器当前的复制偏移量少于自己的复制偏移量,然后主服务器就会根据从服务器提交的复制偏移量,在复制积压缓冲区里面找到从服务器缺少的数据,并将这些数据重新发送给从服务器。

注意,主服务器向从服务器补发缺失数据这一操作的原理和部分重同步操作的原理非常相似,这两个操作的区别在于,补发缺失数据操作在主从服务器没有断线的情况下执行,而部分重同步操作则在主从服务器断线并重连之后执行。


http://www.ppmy.cn/devtools/137661.html

相关文章

一款开源的宝藏聊天机器人Typebot

是否一个人寂寞难耐&#xff0c;是否半夜找不到诉说的对象&#xff0c;是否一个人半夜偷偷买醉&#xff1f;咳咳…跑题了。如果你需要个聊天机器人帮你解决问题&#xff0c;来看看Typebot吧。 介绍 Typebot 是一个功能强大的开源聊天机器人框架&#xff0c;旨在帮助开发者轻…

渗透测试笔记—window基础

声明&#xff1a; 学习视频来自B站up主 【泷羽sec】有兴趣的师傅可以关注一下&#xff0c;如涉及侵权马上删除文章&#xff0c;笔记只是方便各位师傅的学习和探讨&#xff0c;文章所提到的网站以及内容&#xff0c;只做学习交流&#xff0c;其他均与本人以及泷羽sec团队无关&am…

2024 APMCM亚太数学建模C题 - 宠物行业及相关产业的发展分析和策略 完整参考论文(1)

摘要 近年来,中国宠物食品行业迅速增长,但面临复杂的国际形势和多变的市场环境,因此科学地分析和预测该行业的发展趋势至关重要。本研究通过构建多个机器学习与统计回归模型,量化分析中国宠物食品行业的关键驱动因素,预测未来宠物食品总产值和出口值。 在数据处理部分,…

RK3568平台开发系列讲解(DMA篇)什么是DMA

🚀返回专栏总目录 文章目录 一、什么是DMA二、DMA的产生:背景三、理解 DMA:协处理器沉淀、分享、成长,让自己和他人都能有所收获!😄 📢本篇将带领大家深刻理解DMA。 一、什么是DMA DMA (Direct Memory Access) is used to copy data directly between devices and R…

IOC容器实现分层解耦

文章开始之前&#xff0c;先引入软件开发的两个名词&#xff1a;耦合和内聚。耦合是指&#xff1a;衡量软件中各个层&#xff08;三层架构&#xff09;/各个模块的依赖关联程度&#xff1b;内聚是指&#xff1a;软件中各个功能模块内部的功能联系。三层架构中Controller、Servi…

oracle小技巧-解决特殊密码字符而导致的exp错误

在使用oracle数据库的时候&#xff0c;我们经常会利用exp工具对某些表进行导出。但有些时候&#xff0c;因我们用户密码为安全性设有特殊字符&#xff0c;导致exp导出时候报&#xff1a;“EXP-00056和ORA-12154”&#xff0c;今天我们就分享下如何通过设置符号隔离的小技巧解决…

南京移动“智慧+关怀”服务体系助力老年群体生活安全有保障

在数字化浪潮汹涌澎湃的当下&#xff0c;江苏移动南京分公司秉持“人民邮电为人民”的服务理念&#xff0c;推出一系列创新服务举措&#xff0c;为社区老年群体提供贴心、便捷的数字服务&#xff0c;让老人在享受科技发展成果的同时&#xff0c;感受到社会的温暖与关怀。 贴心…

uniapp介入极光推送教程 超级详细

直接按照下面教程操作 一步一步来 很快就能 完成 下面的文章非常详细 &#xff0c;我就不班门弄斧了 直接上原文链接 https://blog.csdn.net/weixin_52830464/article/details/143823231