redis高可用之主从复制、哨兵以及Cluster集群

news/2024/9/25 4:22:13/

目录

一、Redis主从复制

1）主从复制的作用

2）主从复制流程

3）搭建Redis主从复制

redis%E6%9C%8D%E5%8A%A1%E5%99%A8-toc" style="margin-left:120px;">1、部署redis服务器

2、修改Redis配置文件（所有节点操作）

3、验证主从复制结果

二、哨兵模式

1）哨兵的作用

2）哨兵结构的组成

3）哨兵故障转移机制​编辑

4）主节点的选举

5）搭建Redis哨兵模式

1、设置Redis哨兵模式配置文件的属组以及属主（master服务器） 

2、修改Redis哨兵模式的配置文件（所有节点）

3、master节点开启哨兵模式后slave节点开启哨兵模式，查看哨兵状态

4、关闭主节点进程，模拟故障切换

redis%E9%9B%86%E7%BE%A4%E6%A8%A1%E5%BC%8F-toc" style="margin-left:0px;">三、redis集群模式

1）集群的作用

2）Redis集群的数据分片【※】

3） Redis集群的主从复制模型

4）搭建Redis群集模式

redis-toc" style="margin-left:80px;"> 1、部署6台redis

2、所有节点修改配置文件、创建集群

3、登录查看集群信息

4、集群测试

5、动态扩容

一、Redis主从复制

        主从复制，是指将一台Redis服务器的数据，复制到其他的Redis服务器。前者称为主节点(Master)，后者称为从节点(Slave)；数据的复制是单向的，只能由主节点到从节点。默认情况下，每台Redis服务器都是主节点；且一个主节点可以有多个从节点(或没有从节点)，但一个从节点只能有一个主节点。

1）主从复制的作用

  • 数据冗余：主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。
  • 故障恢复：当主节点出现问题时，可以由从节点提供服务，实现快速的故障恢复，实际上是一种服务的冗余。主从复制进行故障恢复需要手动完成。
  • 负载均衡：在主从复制的基础上，配合读写分离，可以由主节点提供写服务，由从节点提供读服务（即写Redis数据时，应用连接主节点；读Redis数据时，应用连接从节点），分担服务器负载；尤其是在写少读多的场景下，通过多个从节点分担读负载，可以大大提高Redis服务器的并发量。
  • 高可用基石：除了上述作用以外，主从复制还是哨兵和集群能够实施的基础，因此说主从复制是Redis高可用的基础。

2）主从复制流程

  1. 首次同步：当从节点要进行主从复制时，它会发送一个SYNC命令给主节点。主节点收到SYNC命令后，会执行BGSAVE命令来生成RDB快照文件，并在生成期间使用缓冲区记录所有写操作。
  2. 快照传输：当主节点完成BGSAVE命令并且快照文件准备好后，将快照文件传输给从节点。主节点将快照文件发送给从节点，并且在发送过程中，主节点会继续将新的写操作缓冲到内存中。
  3. 追赶复制：当从节点收到快照文件后，会加载快照文件并应用到自己的数据集中。一旦快照文件被加载，从节点会向主节点发送一个PSYNC命令，以便获取缓冲区中未发送的写操作。
  4. 增量复制：主节点收到PSYNC命令后，会将缓冲区中未发送的写操作发送给从节点，从节点会执行这些写操作，保证与主节点的数据一致性。此时，从节点已经追赶上了主节点的状态。
  5. 同步：从节点会继续监听主节点的命令，并及时执行主节点的写操作，以保持与主节点的数据同步。主节点会定期将自己的操作发送给从节点，以便从节点保持最新的数据状态.

注意:当slave首次同步或者宕机后恢复时，会全盘加载，以追赶上大部队，即全量复制。

3）搭建Redis主从复制

准备三台redis服务器；192.168.170.200 master；192.168.170.100 slave1；192.168.170.101 slave2

redis%E6%9C%8D%E5%8A%A1%E5%99%A8">1、部署redis服务器
//环境准备
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
sed -i 's/enforcing/disabled/' /etc/selinux/config#修改内核参数
vim /etc/sysctl.conf
vm.overcommit_memory = 1
net.core.somaxconn = 2048
#刷新生效
sysctl -p//安装redis
#上传tar.gz格式的redis软件包后解压编译
yum install -y gcc gcc-c++ make
tar zxvf /opt/redis-7.0.9.tar.gz -C /opt/
cd /opt/redis-7.0.9
make
make PREFIX=/usr/local/redis install
#由于Redis源码包中直接提供了 Makefile 文件，所以在解压完软件包后，不用先执行 ./configure 进行配置，可直接执行 make 与 make install 命令进行安装。#创建redis工作目录和用户
mkdir /usr/local/redis/{conf,log,data}cp /opt/redis-7.0.9/redis.conf /usr/local/redis/conf/useradd -M -s /sbin/nologin redis
chown -R redis.redis /usr/local/redis/#环境变量
vim /etc/profile 
PATH=$PATH:/usr/local/redis/bin		#增加一行source /etc/profile//定义systemd服务管理脚本
vim /usr/lib/systemd/system/redis-server.service
[Unit]
Description=Redis Server
After=network.target[Service]
User=redis
Group=redis
Type=forking
TimeoutSec=0
PIDFile=/usr/local/redis/log/redis_6379.pid
ExecStart=/usr/local/redis/bin/redis-server /usr/local/redis/conf/redis.conf
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true[Install]
WantedBy=multi-user.target
2、修改Redis配置文件（所有节点操作）
//master节点
vim /usr/local/redis/conf/redis.conf
bind 0.0.0.0									#87行，修改监听地址为0.0.0.0任意地址或者127.0.0.1和本机地址
protected-mode no								#111行，将本机访问保护模式设置no
port 6379										#138行，Redis默认的监听6379端口
tcp-backlog 20480                               #147行，修改参数为20480
timeout 0                                       #159行，长连接超时，可以自行设置，防止没有任何操作的客户端一致挂在服务器上
daemonize yes									#309行，设置为守护进程，后台启动
pidfile /usr/local/redis/log/redis_6379.pid		#341行，指定 PID 文件
logfile "/usr/local/redis/log/redis_6379.log"	#354行，指定日志文件
dir /usr/local/redis/data						#504行，指定持久化文件所在目录
#requirepass 123456								#1037行，可选，设置redis密码
appendonly yes									#1380行，开启AOF
#masterauth 123456								#535行，可选，指定Master节点的密码，在Master节点设置requirepass时，此处才需要设置密码启动redis
systemctl restart redis-server.service
netstat -lntp | grep 6379//slave节点
vim /usr/local/redis/conf/redis.conf
replicaof 192.168.170.200 6379                 #528行，指定要同步的Master节点IP和端口启动redis
systemctl restart redis-server.service
netstat -lntp | grep 6379

3、验证主从复制结果
redis-cli -h ip -p 6379 -a '123456'
info replication

通过master节点的日志分析主从复制的工作流程

[root@master conf]# cd /usr/local/redis/log/
[root@master log]# ls
redis_6379.log  redis_6379.pid
[root@master log]# vim redis_6379.log

二、哨兵模式

        主从切换技术的方法是：当服务器宕机后，需要手动一台从机切换为主机，这需要人工干预，不仅费时费力而且还会造成一段时间内服务不可用。为了解决主从复制的缺点，就有了哨兵机制。哨兵的核心功能：在主从复制的基础上，哨兵引入了主节点的自动故障转移。

1）哨兵的作用

  • 监控：哨兵会不断地检查主节点和从节点是否运作正常。
  • 自动故障转移：当主节点不能正常工作时，哨兵会开始自动故障转移操作，它会将失效主节点的其中一个从节点升级为新的主节点，并让其它从节点改为复制新的主节点。
  • 通知（提醒）：哨兵可以将故障转移的结果发送给客户端。

2）哨兵结构的组成

哨兵节点：哨兵系统由一个或多个哨兵节点组成，哨兵节点是特殊的redis节点，不存储数据。
数据节点：主节点和从节点都是数据节点。

3）哨兵故障转移机制

1、由哨兵节点定期监控发现主节点是否出现了故障,每个哨兵节点每隔1秒会向主节点、从节点及其它哨兵节点发送一次ping命令做一次心跳检测。如果主节点在一定时间范围内不回复或者是回复一个错误消息，那么这个哨兵就会单方面的认为这个主节点下线了（是不是真的下线它不管）。当超过半数哨兵节点认为该主节点主观下线了，这样就客观下线了。

2、当主节点出现故障，此时哨兵节点会通过Raft算法（选举算法），实现选举机制共同选举出一个哨兵节点为leader，来负责处理主节点的故障转移和通知。所以整个运行哨兵的集群的数量不得少于3个节点（奇数个）。

3、由leader哨兵节点执行故障转移，过程如下：

将某一个从节点升级为新的主节点，让其它从节点指向新的主节点；
原主节点恢复也变成从节点，并指向新的主节点；
通知客户端主节点已经更换。
        需要特别注意的是，客观下线是主节点才有的概念；如果从节点和哨兵节点发生故障，被哨兵主观下线后，不会再有后续的客观下线和故障转移操作。

4）主节点的选举

（1）过滤掉不健康的（已下线的），没有回复哨兵ping响应的从节点。
（2）选择配置文件中从节点优先级配置最高的。（replica-priority，默认值为100）
（3）选择复制偏移量最大，也就是复制最完整的从节点。

5）搭建Redis哨兵模式

注意：哨兵节点既可以单独部署，也可以和数据节点部署在一台服务器上，视服务器的数量而定。哨兵的启动依赖于主从模式，所以须把主从模式安装好的情况下再去做哨兵模式.。

沿用主从复制的三台redis服务器；192.168.170.200 master；192.168.170.100 slave1；192.168.170.101 slave2，vip为192.168.170.99

1、设置Redis哨兵模式配置文件的属组以及属主（master服务器） 

cp /opt/redis-7.0.13/sentinel.conf /usr/local/redis/conf/
chown redis:redis /usr/local/redis/conf/sentinel.conf

2、修改Redis哨兵模式的配置文件（所有节点）

vim /usr/local/redis/conf/sentinel.conf
protected-mode no									#6行，关闭保护模式
port 26379											#10行，Redis哨兵默认的监听端口
daemonize yes										#15行，指定sentinel为后台启动
pidfile /usr/local/redis/log/redis-sentinel.pid		#20行，指定PID文件
logfile "/usr/local/redis/log/sentinel.log"			#25行，指定日志存放路径
dir /usr/local/redis/data							#54行，指定数据库存放路径
sentinel monitor mymaster 192.168.170.200 6379 2		#73行，修改指定该哨兵节点监控192.168.170.200 6379端口这个主节点，该主节点的名称是mymaster，最后的2的含义与主节点的故障判定有关：至少半数哨兵节点同意，才能判定主节点故障并进行故障转移
#sentinel auth-pass mymaster 123456					    #76行，可选，指定Master节点的密码，仅在Master节点设置了requirepass
sentinel down-after-milliseconds mymaster 3000		#114行，判定服务器down掉的时间周期，默认30000毫秒（30秒）
sentinel failover-timeout mymaster 180000			#214行，同一个sentinel对同一个master两次failover之间的间隔时间（180秒）
sentinel client-reconfig-script mymaster /usr/local/redis/conf/master_ip_failover.sh   #278行，指定故障漂移脚本路劲
-------------------------------------------------------------------------------------------
cd /usr/local/redis/conf
vim master_ip_failover.sh     #编写故障漂移脚本
-----
#!/bin/bash
#新master的ip
MASTER_IP=$6
#当前主机的ip
LOCAL_IP=$(ifconfig | awk 'NR==2 {print $2}')VIP='192.168.9.99'if [ "$MASTER_IP" == "$LOCAL_IP" ];thenifconfig ens33:1 $VIP/24exit 0
elseifconfig ens33:1 $VIP/24 downexit 0
fi
exit 1
-----
chmod +x master_ip_failover.sh  #给予可执行权限
systemctl restart redis-server.service

#master服务器
ifconfig ens33:1 192.168.170.99/24

3、master节点开启哨兵模式后slave节点开启哨兵模式，查看哨兵状态

redis-sentinel sentinel.conf &
netstat -lntp | grep 26379

redis-cli -h 192.168.170.200 -p 26379   #没有设置密码
info sentinel

报错

明明配置了三个sentinel，但是这里显示的却是4，有的可能是1，基本都是配置文件有问题，我们要检查一下这几个地方：
1.主节点redis.conf的masterauth是否配置，从节点redis.conf的requirepass是否配置
2.哨兵sentinel.conf配置文件底部的sentinel myid是否有相同，有相同则关闭哨兵进程再将文件中此行删除，重启会重新生成。关闭命令：kill -s term 进程号
3.在较新的redis里提供的sentinel.conf模板文件中，有sentinel-announce-ip和sentinel-announce-port，请记住，这里我们配置的时当前文件所属的哨兵的ip和端口。我就是犯了这个低级错误，写成了主节点的ip和端口

哨兵数量与实际不符合怎么解决？

4、关闭主节点进程，模拟故障切换

master服务器关闭redis，打开slave服务器日志脚本进行监控

redis%E9%9B%86%E7%BE%A4%E6%A8%A1%E5%BC%8F">三、redis集群模式

        Redis群集模式即Redis Cluster，是Redis 3.0开始引入的分布式存储方案。

        集群由多组节点(Node)组成，Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点：只有主节点负责读写请求和集群信息的维护；从节点只进行主节点数据和状态信息的复制。

        集群将数据分散到多组节点，一方面突破了Redis单机内存大小的限制，存储容量大大增加；另一方面每个主节点都可以对外提供读服务和写服务，大大提高了集群的响应能力。Redis单机内存大小受限问题，在介绍持久化和主从复制时都有提及；例如，如果单机内存太大，bgsave和bgrewriteaof的fork操作可能导致主进程阻塞，主从环境下主机切换时可能导致从节点长时间无法提供服务，全量复制阶段主节点的复制缓冲区可能溢出。redis内存并不是越大越好

1）集群的作用

高可用：集群支持主从复制和主节点的自动故障转移（与哨兵类似）；当任一节点发生故障时，集群仍然可以对外提供服务。

数据分区：数据分区(或称数据分片)是集群最核心的功能。

2）Redis集群的数据分片【※】

  • Redis集群引入了哈希槽的概念
  • Redis集群有16384个哈希槽（编号0-16383）
  • 集群的每组节点负责一部分哈希槽
  • 每个Key通过CRC16校验后对16384取余来决定放置哪个哈希槽，通过这个值，去找到对应的插槽所对应的节点，然后直接自动跳转到这个对应的节点上进行存取操作

以3个节点组成的集群为例：

节点A包含0到5460号哈希槽
节点B包含5461到10922号哈希槽
节点C包含10923到16383号哈希槽

3） Redis集群的主从复制模型

集群中具有A、B、C三个节点，如果节点B失败了，整个集群就会因缺少5461-10922这个范围的槽而不可以用。为每个节点添加一个从节点A1、B1、C1整个集群便有三个Master节点和三个slave节点组成，在节点B失败后，集群选举B1为新的主节点继续服务。当B和B1都失败后，集群将不可用。

4）搭建Redis群集模式

主库从库
192.168.170.200192.168.170.5
192.168.170.192.168.170.6
192.168.170.192.168.170.7

redis"> 1、部署6台redis

//初始化
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
vim /etc/selinux/config--->SELINUX=disabled//配置内核参数添加配置
vim /etc/sysctl.conf
----------------------------------------------
vm.overcommit_memory = 1                     #内核允许超量使用内存直到用完为止，防止OOM杀死进程
net.core.somaxconn = 20480                    #指定处于监听状态的连接请求队列的最大长度sysctl -p   #加载//安装依赖包、安装redis
yum install -y gcc gcc-c++ make
cd /opt
rz -E
#redis-7.0.13.tar.gz
tar xf /opt/redis-7.0.13.tar.gz 
cd /opt/redis-7.0.13
make
make PREFIX=/usr/local/redis install
#由于Redis源码包中直接提供了Makefile文件，所以在解压完软件包后，不用先执行./configure行配置，可直接执行make与make install命令进行安装//创建redis的工作目录并创建redis程序用户，将redis程序执行文件加入到系统环境变量中
cd /usr/local/redis
mkdir conf log data
cd /opt/redis-7.0.13/
cp redis.conf /usr/local/redis/conf/
useradd -M -s /sbin/nologin redis
chown -R redis:redis /usr/local/redis
vim /etc/profile---> export PATH=$PATH:/usr/local/redis/bin
source /etc/profile//修改redis.conf配置文件
vim /usr/local/redis/conf/redis.conf
bind 192.168.170.200				            #87行，添加监听的主机地址
protected-mode no					            #111行，将本机访问保护模式设置no。如果开启了，那么在没有设定bind ip且没有设密码的情况下，Redis只允许接受本机的响应
port 6379										#138行，Redis默认的监听6379端口
tcp-backlog 20480                               #147行，修改参数为20480，与内核参数一致
daemonize yes									#309行，设置为守护进程，后台启动
pidfile /usr/local/redis/log/redis_6379.pid		#341行，指定PID文件
logfile "/usr/local/redis/log/redis_6379.log"	#354行，指定日志文件
dir /usr/local/redis/data						#504行，指定持久化文件所在目录
requirepass 123456	//定义systemd服务管理脚本
cd /usr/lib/systemd/system
vim redis-server.service
-----------------------------------------------------------------------------
[Unit]
Description=Redis Server
After=network.target[Service]
User=redis
Group=redis
Type=forking
TimeoutSec=0
PIDFile=/usr/local/redis/log/redis_6379.pid
ExecStart=/usr/local/redis/bin/redis-server /usr/local/redis/conf/redis.conf
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true[Install]
WantedBy=multi-user.target---------------------------------------------------------------------------------
systemctl daemon-reload
systemctl start redis-server.service
systemctl enable redis-server.service
netstat -lntp | grep 6379

2、所有节点修改配置文件、创建集群

cp /opt/redis-7.0.13/redis.conf /usr/local/redis/conf/
/usr/local/redis/conf
vim redis.conf
-------------------------------------------------------------------------------------
bind 0.0.0.0  #87行
protected-mode no  #第111行关闭保护模式
daemonize yes   #309行后台运行打开
pidfile /usr/local/redis/log/redis_6379.pid   #341行pid文件路径
logfile "/usr/local/redis/log/redis_6379.log"    #354日志文件路径
dir /usr/local/redis/data #504行
appendonly yes    #1379aof持久化打开
cluster-enabled yes   #1576打开注释
cluster-config-file nodes-6379.conf   #1584集群配置文件打开注释
cluster-node-timeout 15000     #1590打开注释
-------------------------------------------------------------------------------------
systemctl restart redis-server.service   ####重启所有服务器//创建集群
redis-cli --cluster create 192.168.170.200:6379 192.168.170.100:6379 192.168.170.101:6379 192.168.170.5:6379 192.168.170.6:6379 192.168.170.70:6379 --cluster-replicas 1

3、登录查看集群信息

redis-cli -h 192.168.170.200 -p 6379 -c        #加-c参数，节点之间就可以互相跳转cluster slots			         #查看节点的哈希槽编号范围set name zhangsan                #创建键和值cluster keyslot name			 #查看name键的槽编号

4、集群测试

5、动态扩容

增加两台无redis服务器：192.168.9.210；192.168.9.120

① 集群master节点服务器进行复制操作

启动文件复制到新添加的服务器中
cd /usr/local/redis/conf
scp redis.conf 192.168.170.120:`pwd`
scp redis.conf 192.168.170.210:`pwd`cd /usr/lib/systemd/system
scp redis-server.service 192.168.170.210:`pwd`
scp redis-server.service 192.168.170.120:`pwd`scp -rp redis/ 192.168.170.210:/usr/local
scp -rp redis/ 192.168.170.120:/usr/localscp redis.conf 192.168.170.210:`pwd`
scp redis.conf 192.168.170.120:`pwd`cd /usr/lib/systemd/system
scp redis-server.service 192.168.170.210:`pwd`
scp redis-server.service 192.168.170.120:`pwd`

② 两台新服务器操作

初始化操作
systemctl disable --now firewalld
vim /etc/sysctl.conf
-------------------------------------------------------------------------------
vm.overcommit_memory = 1
net.core.somaxconn = 20480
-------------------------------------------------------------------------------
sysctl -p创建用户，准备空目录
useradd -M -s /sbin/nologin redis
rm -rf conf/*
rm -rf log/*
rm -rf data/*
chown -R redis:redis /usr/local/redis启动服务
systemctl enable --now redis-server.service  
vim /etc/profile
export PATH=$PATH:/usr/local/redis/bin
source /etc/profile

③ 集群master节点服务器配置将两台服务器加入集群

redis-cli -h 192.168.170.140 -p 6379
cluster meet 192.168.170.210 6379
cluster meet 192.168.170.120 6379

④ 192.168.170.120对192.168.170.210对接做主从复制

redis-cli -h 192.168.170.120 -p 6379
cluster replicate 0f3ffa68ab18469feb2d135313b6d141b15a998f

⑤ master节点查询是否连接成功

cluster nodes

 ⑥为新添加的服务器分配hash槽


http://www.ppmy.cn/news/1499846.html

相关文章

Rabbitmq从入门到精通

Rabbitmq从入门到精通

文章目录 1. RabbitMQ简介1.2 组件介绍1.1 消息队列的选择1.2 Docker 安装rabbitmq1.4 消息应答机制 2.1 交换机类型2.1 direct2.2 fanout2.3 topic：2.4header 3 RabbitMQ集群搭建3.1docker 搭建 rabbitmq集群 4 死信队列4.1 ttl消息过期：生产者添加延迟…
阅读更多...
在CentOS 7上安装和使用PostgreSQL的方法

在CentOS 7上安装和使用PostgreSQL的方法

前些天发现了一个巨牛的人工智能学习网站，通俗易懂，风趣幽默，忍不住分享一下给大家。点击跳转到网站。 简介 关系数据库管理系统是许多网站和应用程序的关键组成部分。它们提供了一种结构化的方式来存储、组织和访问信息。 PostgreSQL&…
阅读更多...
qt设置过滤器

qt设置过滤器

1.创建事件过滤器类，在主窗口中安装事件过滤器 class PasteFilter : public QObject {Q_OBJECTpublic:PasteFilter(QObject *parent nullptr) : QObject(parent) {}protected:bool eventFilter(QObject *obj, QEvent *event) override {if (event->type() QEv…
阅读更多...
上传文件传参 pc端vue的formData

上传文件传参 pc端vue的formData

formData let formData new FormData(); formData.append("file", blob, ref ".png"); //添加参数并且重新命名文件名称 if(ref.toString().indexOf(qrcode) > 0) formData.append(noStbg, true)//添加参数 uploadType(formData, sour…
阅读更多...
通过mqtt.fx连接阿里云

通过mqtt.fx连接阿里云

通过mqtt.fx连接阿里云，需要完成以下步骤。请注意，以下步骤基于当前可用的信息和常见的操作流程，但实际操作时可能因阿里云平台的更新而有所变化。 一、阿里云平台配置 注册并登录阿里云账号： 访问阿里云官网（aliyun…
阅读更多...
告别手动打字！这个视频转文字方法，准确率高达98%

告别手动打字！这个视频转文字方法，准确率高达98%

不知道大家是不是跟小小迅一样，平时喜欢看一些视频教程来学习ps等之类的技术。 不过视频学习有个痛点，就是不好整理总结。需要时不时暂停视频或者回放，记录下课程的重点等。如果遇到那种全程高能的知识类视频，可能整理笔记就需要…
阅读更多...
将本地 Git 仓库连接到 GitHub 上的远程仓库

将本地 Git 仓库连接到 GitHub 上的远程仓库

将本地 Git 仓库连接到 GitHub 上的远程仓库，并将本地的主要分支推送到远程仓库。 命令解释 git remote add origin https://github.com/xiaoqiuslam/ros_car.git： 这条命令将远程仓库添加为名为 origin 的远程库。 git branch -M main： 这…
阅读更多...
强化数字科技基石：深化基础理论研究

强化数字科技基石：深化基础理论研究

加强数字科技基础理论研究并增加对其的资金投入，对于推动科技进步、培养创新人才以及构建具有国际竞争力的科技创新体系都具有深远意义。同时为了加强数字科技基础理论研究并推动产业园的发展，我们可以从以下几个方面进行： 一、加强数字科技…
阅读更多...
最新文章

Copyright @ 2022~2023