在Redis中,用户可以通过执行SLAVEOF命令或设置slaveof选项,让一个服务器(从服务器)去复制另一个服务器(主服务器),进行复制中的主从服务器双方的数据库将保存相同的数据。
15.1 旧版复制功能的实现
Redis在2.8版本以前使用的,分为同步和命令传播两个操作:
15.1.1 同步
当客户端向从服务器发送SLAVEOF命令,要求从服务器复制主服务器时,从服务器首先要执行同步操作,向主服务器发送SYNC命令完成,具体步骤如下:
- 从服务器向主服务器发送SYNC命令
- 收到SYNC命令的主服务器执行BGSAVE命令,在后台生成一个RDB文件,并且使用一个缓冲区记录从现在开始执行的所有写命令
- 执行完毕后将生成的RDB文件发送给从服务器,从服务器接收并载入这个RDB文件
- 主服务器将记录在缓冲区里的所有写命令发送给服务器
15.1.2 命令传播
在同步操作后,主从服务器的数据库达到一致状态,但是这种一致并不是一成不变,当主服务器执行客户端发送的写命令,主服务器的数据库可能被修改,不再一致。
为了继续达成一致,主服务器需要对从服务器执行命令传播操作:主服务器会把自己执行的写命令,发送给从服务器执行。
15.2 旧版复制功能的缺陷
从服务器对主服务器的复制可以分为以下两种情况:
- 初次复制:从服务器以前没有复制过任何主服务器,或是从服务器当前要复制的主服务器和上一次复制的主服务器不同
- 断线后重新复制:处理命令传播阶段的主从服务器因为网络原因中断了复制,但是从服务器通过自动重新连接重新连上了主服务器,并继续复制主服务器。
对于断线后重新复制来说,效率非常低。
15.3 新版复制功能的实现
Redis2.8版本以后 使用PSYNC命令,有完整重同步和部分重同步两种模式
- 完整重同步用于处理初次复制情况,和SYNC命令的执行步骤基本一致
- 部分重同步用于处理断线后重复制情况:当从服务器断线后重新连接主服务器时,如果条件允许,主服务器可以将断开连接期间执行的写命令发送给从服务器,以此保持一致。
15.4 部分重同步的实现
15.4.1 复制偏移量
主服务器和从服务器都会维护一个复制偏移量
- 主服务器每次向从服务器传播N个字节的数据时,就将自己的复制偏移量的值加上N
- 从服务器每次收到主服务器传播的N个字节的数据时,就把自己的复制偏移量加N
对比两个偏移量就可以知道主从服务器是否处于一致状态
15.4.2 复制积压缓冲区
是主服务器维护的一个固定长度先进先出队列,默认大小是1MB
当主服务器进行命令传播时,它不仅会把写命令发送给所有从服务器,还会将写命令入队到复制积压缓冲区里面,而且还会为队列的每个字节记录相应的复制偏移量。
当从服务器重新连上主服务器时,从服务器会通过PSYNC命令将自己的复制偏移量offset发送给主服务器,根据这个offset决定如何进行同步
- 如果offset偏移量之后的数据仍然存在复制积压缓冲区里,主服务器将要对从服务器执行部分重同步操作
- 相反:进行完整重同步
估算:复制积压缓冲区最小大小 = 从服务器断线后连上主服务器所需的平均时间(秒)* 主服务器平均每秒产生的写命令数据量
15.4.3 服务器运行ID
每个服务器都有自己的运行ID,服务器启动时自动生成,由40个随机的十六进制字符组成。
初次复制时,主服务器会把自己的运行ID传送给从服务器;断线重连后,会向当前连接的主服务器发送之前保存的运行ID:
- 发送的运行ID和当前连接的主服务器的运行ID相同,部分重同步
- 完整重同步
15.5 PSYNC命令的实现
调用方法有2种:
- 如果从服务器之前没有复制过任何主服务器,或之前执行过SLAVEOF no one命令,那么从服务器在开始一次新的复制时将向主服务器发送PSYNC ? -1命令,主动请求主服务器进行完整重同步
- 否则,如果从服务器已经复制过某个主服务器,那么从服务器在开始一次新的复制时,发送PSYNC 命令,其中runid是上一次复制的主服务器的运行ID,offset则是从服务器当前的复制偏移量。
回复有3种:
- 主服务器返回 +FULLRESYNC 回复,那么表示主服务器将与从服务器执行完整重同步操作:其中runid是主服务器的运行id,offset则是主服务器当前的复制偏移量,从服务器会把这个值作为自己的初始化偏移量
- 主服务器返回 +CONTINUE回复,表示执行部分重同步
- 主服务器返回 -ERR回复,表示主服务器的版本低于Redis 2.8,识别不了PSYNC命令
15.6 复制的实现
从服务器发送SLAVEOF命令,可以让从服务器去复制一个主服务器
15.6.1 步骤1:设置主服务器的地址和端口
客户端向从服务器发送SLAVEOF 127.0.0.1 6379,从服务器要做的是把客户端给定的主服务器IP地址127.0.0.1和端口6379保存到masterhost属性和masterport属性里
SLAVEOF命令是一个异步命令,复制工作在返回OK后开始执行
15.6.2 步骤2:建立套接字连接
从服务器创建连向主服务器的套接字连接,从服务器为这个套接字关联一个专门用于处理复制工作的文件事件处理器,主服务器把从服务器看作一个连接到主服务器的客户端来对待。
15.6.3 步骤3:发送PING命令
作用:检查套接字的读写状态是否正确,检查主服务器能否正常处理命令请求
回复:
- 主服务器向从服务器返回一个命令回复,但是从服务器却不能在规定时间里读出命令回复的内容,表示网络连接状态不佳,从服务器断开并重新连接
- 主服务器向从服务器返回一个错误,表示主服务器暂时没办法处理从服务器的命令请求,从服务器断开并重新创建套接字
- 从服务器读取到PONG回复
15.6.4 步骤4:身份验证
决定是否进行身份验证,从服务器设置了masterauth选项才需要进行身份认证
在需要进行身份验证的情况下,从服务器将向主服务器发送一条AUTH命令,命令的参数为从服务器 masterauth选项的值。
可能遇到的情况:
- 主服务器没有设置requirepass选项,从服务器也没有设置masterauth选项,复制继续
- 从服务器发送的密码和主服务器的requirepass相同,继续;否则,主服务器返回invalid password错误。
- 主服务器设置了requirepass选项,从服务器没有设置masterauth选项,主服务器返回NOAUTH错误;主服务器没有设置requirepass选项,从服务器设置了masterauth选项,主服务器返回no password is set错误。
15.6.5 步骤5:发送端口信息
从服务器执行命令 REPLCONF listening-port 向主服务器发送从服务器的监听端口号
主服务器会记录在从服务器所对应的客户端状态的slave_listening_port属性中
15.6.6 步骤6:同步
在同步操作执行前,只有从服务器是主服务器的客户端,但是执行同步操作后,主服务器也是从服务器的客户端。如果PSYNC命令执行的是完整重同步操作,那么主服务器需要把保存在缓冲区的写命令发送给从服务器执行;如果部分重同步,需要向从服务器发送保存在复制积压缓冲区里的写命令。
这两个都需要主服务器称为从服务器的客户端,这样才能互相发送命令请求和返回命令回复。
15.6.7 步骤7:命令传播
15.7 心跳检测
在命令传播阶段,从服务器默认以每秒一次的频率向主服务器发送命令
REPLCONF ACK <replication_offset>
其中replication_offset表示从服务器当前的复制偏移量
发送命令的三个作用:
15.7.1 检测主从服务器的网络连接状态
发送REPLCONF ACK命令可以用于检查两者之间的网络连接是否正常
15.7.2 辅助实现min-slaves配置选项
Redis的min-slaves-to-write和min-slaves-max-log两个选项可以防止主服务器在不安全的情况下执行写命令,比如配置是min-slaves-to-write = 3 ,min-slaves-max-log = 10
那么在从服务器的数量小于3个,或是三个从服务器的延迟lag值都>=10的时候,主服务器将拒绝执行写命令。
延迟值就是15.7.1里提到的
15.7.3 检测命令丢失
如果因为网络故障,主服务器传播给从服务器的写命令在半路丢失,那么当从服务器向主服务器发送REPLCONF ACK命令时,主服务器将发觉从服务器当前的复制偏移量少于自己的复制偏移量,然后主服务器就会根据从服务器提交的复制偏移量,在复制积压缓冲区里面找到从服务器缺少的数据,并将这些数据重新发送给从服务器。
注意,主服务器向从服务器补发缺失数据这一操作的原理和部分重同步操作的原理非常相似,这两个操作的区别在于,补发缺失数据操作在主从服务器没有断线的情况下执行,而部分重同步操作则在主从服务器断线并重连之后执行。