Redis高可用示例之主从复制、哨兵模式、集群模式

大孜然的搬运工
196 阅读17分钟

一、Redis的三种高可用方案

  • 主从复制：主从复制是高可用Redis的基础，哨兵和集群都是在主从复制基础上实现高可用的。主从复制主要实现了数据的多机备份（和同步），以及对于读操作的负载均衡和简单的故障恢复。

    • 缺陷：故障恢复无法自动化；写操作无法负载均衡；存储能力受到单机的限制

  • 哨兵模式：在主从复制的基础上，哨兵实现了自动化的故障恢复。

    • 缺陷：写操作无法负载均衡；存储能力受到单机的限制；哨兵无法对从节点进行自动化故障转移，在读写分离场景下，从节点故障会导致读服务不可用，需要对从节点做额外的监控、切换操作。

  • 集群模式（Cluster模式）：通过集群，Redis解决了写操作无法负载均衡，以及存储能力受到单机限制的问题，实现了较为完善的高可用方案。

二、Redis主从复制

2.1 Redis主从复制概述

  • 主从复制：是指将一台Redis服务器的数据，复制到其他的Redis服务器。前者称为主节点（Master），后者称为从节点（slave）；数据的复制是单向的，只能由主节点到从节点。
  • 默认情况下，每台Redis服务器都是主节点；且一个主节点可以有多个从节点（或没有从节点），但一个从节点只能有一个主节点。

2.2 主从复制的作用

  • 数据冗余： 主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。

  • 故障恢复：当主节点出现问题时，可以由从节点提供服务，实现快速的故障恢复；实际上是一种服务的冗余。

  • 负载均衡： 在主从复制的基础上，配合读写分离，可以由主节点提供写服务，由从节点提供读服务（即写Redis数据时应用连接主节点，读Redis数据时应用连接从节点），分担服务器负载；尤其是在写少读多的场景下，通过多个从节点分担读负载，可以大大提高Redis服务器的并发量。

  • 高可用基石： 除了上述作用以外，主从复制还是哨兵和集群能够实施的基础，因此说主从复制是Redis高可用的基础。

2.3 主从复制的工作流程

  1. 若启动一个slave机器进程,则它会向Master机器发送一个sync command命令，请求同步连接。

  2. 无论是第一次连接还是重新连接，Master机器都会启动一个后台进程，将数据快照保存到数据文件中（执行rdb操作），同时Master还会记录修改数据的所有命令并缓存在数据文件中.

  3. 后台进程完成缓存操作之后，Master机器就会向slave机器发送数据文件，slave端机器将数据文件保存到硬盘上，然后将其加载到内存中，接着Master机器就会将修改数据的所有操作一并发送给slave端机器。若slave出现故障导致宕机，则恢复正常后会自动重新连接。

  4. Master机器收到slave端机器的连接后，将其完整的数据文件发送给slave端机器，如果Mater同时收到多个slave发来的同步请求，则Master会在后台启动一个进程以保存数据文件，然后将其发送给所有的slave端机器，确保所有的slave端机器都正常。

2.4 搭建Redis主从复制示例

① 准备主机及环境

Master节点：192.168.142.50
Slave1节点：192.168.142.60
Slave2节点：192.168.142.70

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0
#关闭防火墙及selinux

##安装Redis（三台主机）##
yum install -y gcc gcc-c++ make   #安装环境依赖包

#解压软件包
cd /opt/  
tar zxvf redis-5.0.7.tar.gz -C /opt/
cd /opt/redis-5.0.7/

#编译安装，指定安装路径为/usr/local/redis
make && make PREFIX=/usr/local/redis install
#由于Redis源码包中直接提供了Makefile 文件，所以在解压完软件包后，不用先执行./configure 进行配置，可直接执行make与make install命令进行安装。

#执行软件包提供的install_server.sh 脚本文件，设置Redis服务所需要的相关配置文件 
cd /opt/redis-5.0.7/utils 
./install_server.sh

Please select the redis executable path [] /usr/local/redis/bin/redis-server  
#这里默认为/usr/local/bin/redis-server，需要手动修改为/usr/local/redis/bin/redis-server，注意要一次性正确输入

#把redis的可执行程序文件放入路径环境变量的目录中便于系统识别
ln -s /usr/local/redis/bin/* /usr/local/bin/

#Redis服务控制
/etc/init.d/redis_6379 stop     #停止
/etc/init.d/redis_6379 start    #启动
/etc/init.d/redis_6379 restart  #重启
/etc/init.d/redis_6379 status   #查看状态

② 修改Redis配置文件（Master节点操作）

vim /etc/redis/6379.conf
bind 0.0.0.0             #70行：修改监听地址为0.0.0.0，也可以修改为自己的物理网卡地址
daemonize yes            #137行：开启守护进程
logfile /var/log/redis_6379.log       #172行：指定日志文件目录
dir /var/lib/redis/6379               #264行：指定工作目录
appendonly yes           #700行：开启AOF持久化功能

#上方内容配置完成后，重启redis
/etc/init.d/redis_6379 restart

image.png

③ 修改Redis配置文件（Slave节点操作）

vim /etc/redis/6379.conf
bind 0.0.0.0             #70行：修改监听地址为0.0.0.0，也可以修改为自己的物理网卡地址
daemonize yes            #137行：开启守护进程
logfile /var/log/redis_6379.log       #172行：指定日志文件目录
dir /var/lib/redis/6379               #264行：指定工作目录
replicaof 192.168.142.50 6379         #288行：指定要同步的Matser节点的IP和端口号
appendonly yes           #700行：开启AOF持久化功能

#上方内容配置完成后，重启redis
/etc/init.d/redis_6379 restart

image.png

④ 验证主从复制效果

#在Master节点上查看日志：
tail -f /var/log/redis_6379.log
#看到以下字样
Synchronization with replica 192.168.142.70:6379 succeeded
Synchronization with replica 192.168.142.60:6379 succeeded
#以上内容代表两个从节点请求主从复制成功建立连接

#在Master节点上验证从节点：
redis-cli info replication   

role:master
connected_slaves:2
slave0:ip=192.168.142.70,port=6379,state=online,offset=826,lag=1
slave1:ip=192.168.142.60,port=6379,state=online,offset=840,lag=1
#出现上方内容，目前显示Master节点下有两个从节点Slave，IP地址分别是配置的两台主机

image.png

image.png

image.png

三、Redis哨兵模式

3.1 哨兵模式概述

哨兵.png

  • 主从切换技术的方法是：当服务器宕机后，需要手动将一台从节点切换为主节点，这需要人工干预，不仅费时费力而且还会造成一段时间内服务不可用。为了解决主从复制的缺点，就有了哨兵机制。
  • 哨兵的核心功能：在主从复制的基础上，哨兵引入了主节点的自动故障转移。

3.2 哨兵模式的作用

  • 监控：哨兵会不断地检查主节点和从节点是否运作正常
  • 自动故障切换转移：当主节点不能正常工作时，哨兵会开始自动故障转移操作，它会将失效主节点的其中一个从节点升级为新的主节点，并让其他从节点改为主从复制新的主节点
  • 通知（提醒）：哨兵可以将故障转移的结果发送给客户端

3.3 哨兵模式的结构

哨兵模式由两部分组成，哨兵节点和数据节点：

  • 哨兵节点（端口号26379）：哨兵系统由一个或多个哨兵节点组成，哨兵节点是特殊的redis节点，不存储数据。
  • 数据节点：主节点和从节点都是数据节点。

3.4 哨兵模式的故障转移机制

  1. 由哨兵节点定期监控发现主节点是否出现了故障

每个哨兵节点每隔1秒会向主节点、从节点及其它哨兵节点发送一次ping命令做一次心跳检测。如果主节点在一定时间范围内不回复或者是回复一个错误消息，那么这个哨兵就会认为这个主节点主观下线了（单方面的）。当超过半数哨兵节点认为该主节点主观下线了，这样就客观下线了。

  1. 当主节点出现故障，此时哨兵节点会通过Raft算法（选举算法，用于确保一致性）实现选举机制共同选举出一个哨兵节点为leader，来负责处理主节点的故障转移和通知。所以整个运行哨兵的集群的数量不得少于3个节点。

  2. 由leader哨兵节点执行故障转移，过程如下：

  • 将某一个从节点升级为新的主节点，让其它从节点指向新的主节点；
  • 若原主节点恢复也变成从节点，并指向新的主节点；
  • 通知客户端主节点已经更换。
  • 若原来的主节点恢复了就会变成从节点指向新的主节点

需要特别注意的是，客观下线是主节点才有的概念；如果从节点和哨兵节点发生故障，被哨兵主观下线后，不会再有后续的客观下线和故障转移操作

3.5 主节点的选择

  • 过滤掉不健康的（已下线的），没有恢复哨兵ping响应的从节点。
  • 选择配置文件中从节点优先级配置最高的。（replica-priority，默认值为100）
  • 选择复制偏移量最大，也就是复制最完整的从节点。

哨兵的启动依赖于主从模式，所以必须把主从模式安装好的情况下再去做哨兵模式。

3.6 哨兵模式的优缺点

  • 优点

    • 能够实现主从复制架构中的主节点的自动故障转移

  • 缺点

    • 写操作时无法进行负载均衡，存储能力受到单机限制，从节点无法自动故障转移

3.7 搭建哨兵模式

① 准备主机及环境

Master节点：192.168.142.50
Slave1节点：192.168.142.60
Slave2节点：192.168.142.70
#实验环境我们可以将哨兵部署在主从复制的三台主机上，用于互相监测
#生产环境可以考虑额外的主机作为哨兵

systemctl stop firewalld 
setenforce 0
#关闭防火墙、selinux

② 修改Redis哨兵模式配置文件（所有节点操作）

vim /opt/redis-5.0.7/sentinel.conf      #Redis的哨兵模式配置文件
protected-mode no                #17行，取消注释关闭保护模式
port 26379                       #21行，指定Redis哨兵默认的监听端口
daemonize yes                    #26行，指定setinel为后台启动
logfile "/var/log/sentinel.log"  #36行，指定日志存放的目录
dir "/var/lib/redis/6379"        #65行，指定数据库存放路径
sentinel monitor mymaster 192.168.142.50 6379 2
#84行修改，指定该哨兵节点监控192.168.142.50:6379这个主节点（主节点主机的IP地址及端口）
#该主节点的名称为mymaster（自定义名称），最后的数字 2 含义与主节点的故障判定有关：即需要2个哨兵节点同意，才能判定主节点故障并进行故障转移，该数字设定一般为过半数。

sentinel down-after-milliseconds mymaster 30000
#113行，判定服务器down掉的时间周期，默认30000毫秒（30秒）
sentinel failover-timeout mymaster 180000
#146行，同一个sentinel对同一个master两次failover（故障切换）之间的间隔时间（180秒）


#以上配置完成后，启动哨兵模式
先启动master，再启动slave
cd /opt/redis-5.0.7/
redis-sentinel sentinel.conf &   #先主后从依次启用哨兵模式

## 查看哨兵信息 ##
redis-cli -p 26379 info sentinel   # 查看redis哨兵的信息

# Sentinel
sentinel_masters:1
sentinel_tilt:0
sentinel_running_scripts:0
sentinel_scripts_queue_length:0
sentinel_simulate_failure_flags:0
master0:name=mymaster,status=ok,address=192.168.142.50:6379,slaves=2,sentinels=3
#出现以上内容，则哨兵已正确建立

image.png

③ 故障模拟

#查看redis-server进程号:
ps aux | grep redis    #查看redis的进程号
kill -9 14315          #强制关闭主节点的redis主进程pid

image.png

#强制关闭主节点redis服务后，在主节点服务器检测日志
tail -f /var/log/sentinel.log    #持续检测哨兵日志

image.png

redis-cli -p 26379 info sentinel   #查看哨兵信息
#通过其他节点查看主节点的IP地址是否发生改变

image.png

vim /etc/redis/6379.conf 
replicaof 192.168.142.70 6379   #288行，配置文件已经被自动修改，对接新的主节点

image.png

#重启原来下线的主节点服务器
rm -rf /var/run/redis_6379.pid   #删除pid文件，否则重启服务会因为pid占用报错
/etc/init.d/redis_6379 start     #启动redis
vim /etc/redis/6379.conf         #查看配置文件内容变化，会自动更新主从复制配置

image.png

四、集群模式

4.1 集群模式的概念

集群，即Redis Cluster，是Redis3.0开始引入的分布式存储方案。

集群由多个节点（Node）组成，Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点：只有主节点负责读写请求和集群信息的维护；从节点只进行主节点数据和状态信息的复制。

4.2 集群的作用

  • 数据分区：数据分区（或称数据分片）是集群最核心的功能。
    • 集群将数据分散到多个节点，一方面突破了Redis单机内存大小的限制，存储容量大大增加；另一方面每个主节点都可以对外提供读服务和写服务，大大提高了集群的响应能力。
    • Redis单机内存大小受限问题，在介绍持久化和主从复制时都有提及；例如，如果单机内存太大，bgsave和bgrewriteaof的fork操作可能导致主进程阻塞，主从环境下主机切换时可能导致从节点长时间无法提供服务，全量复制阶段主节点的复制缓冲区可能溢出。
  • 高可用：集群支持主从复制和主节点的自动故障转移（与哨兵类似）；当任一节点发生故障时，集群仍然可以对外提供服务。

4.3 Redis集群的数据分片

① 数据分片概念

  • Redis集群引入了哈希槽的概念。
  • Redis集群有16384个哈希槽（编号0-16383）。
  • 集群的每个节点负责一部分哈希槽。
  • 每个Key通过CRC16校验后对16384取余来决定放置哪个哈希槽，通过这个值，去找到对应的插槽所对应的节点，然后直接自动跳转到这个对应的节点上进行存取操作。

② 举例

  • 以3个节点组成的集群为例
    • 节点A包含0到5460号哈希槽
    • 节点B包含5461到10922号哈希槽
    • 节点C包含10923到16383号哈希槽

若在任意节点比如节点A中执行 "set [键名] [键值]" 的操作：

  • node1会使用crc16算法对这个创建的key（即键名）进行计算，得到一个数字比如16000，然后对这个数字进行取余运算（与16384做运算取余），得到数值为6384；
  • 得到取余数值后会对插槽值为该结果的插槽进行查找（即查找插槽值为6384的插槽），最终得到结果为节点B包含该插槽，最后跳转至节点B，在节点B上执行"set [键名] [键值]"的操作。

4.4 集群模式的主从复制模型

集群中具有A、B、C三个节点，如果节点B失败了，整个集群就会因缺少5461-10922这个范围的槽而不可以用。 为每个节点添加一个从节点A1、B1、C1整个集群便有三个Master节点和三个slave节点组成，在节点B失败后，集群选举B1位为的主节点继续服务。当B和B1都失败后，集群将不可用

4.5 搭建Redis集群模式

① 实验准备

Redis的集群一般需要6个节点，三主三从。方便起见，这里的实验所有节点在同一台服务器上模拟：

以端口号进行区分：3个主节点端口号分别为6001、6002、6003，对应的从节点端口号分别为6004、6005、6006。

实验主机：192.168.142.80

cd /etc/redis/        #切换到redis配置文件所在目录
mkdir -p redis-cluseter/redis600{1..6}   #在该目录下依次创建6001-6006一共6个配置文件的目录

#命令行使用for循环依次将配置文件以及执行工具复制到各个目录下，并进行取名上的区分
for i in {1..6}
do
cp /opt/redis-5.0.7/redis.conf /etc/redis/redis-cluseter/redis600$i
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis
done

image.png

image.png

② 开启集群功能

#如下所示为单个配置文件的修改内容，其他文件以此类推修改，注意6个端口号都需要不一致
#若是6台单独主机，则端口号将一致
cd /etc/redis/redis-cluseter/redis6001
vim redis.conf      #修改redis配置文件
bind 0.0.0.0        #69行，取消注释并修改为监听所有网卡
protected-mode no   #88行，修改为关闭保护模式
port 6001           #92行，修改redis的监听端口
daemonize yes       #136行，开启守护进程，以独立进程启动
cluster-enabled yes #832行，取消注释，开启集群功能
cluster-config-file nodes-6001.conf   #840行，取消注释，指定集群名称文件设置（根据端口设置对应名称，若是正常6台集群模式则不做修改）
cluster-node-timeout 15000     #846行，取消注释，设置集群超时时间设置
appendonly yes                 #699行，修改，开启AOF持久化

#以上6个配置文件启动后，启动6个redis
#使用for循环调用redis-server执行文件读取6个不同端口的配置文件，进行redis开启
for i in {1..6}
do
cd /etc/redis/redis-cluseter/redis600$i
./redis-server redis.conf
done

#启动完成后查看redis占用端口情况
ps -elf | grep redis

image.png

image.png

#将6个端口的redis分别加入到集群当中，并指定每个主节点拥有1个从节点
redis-cli --cluster create 127.0.0.1:6001 127.0.0.1:6002 127.0.0.1:6003 127.0.0.1:6004 127.0.0.1:6005 127.0.0.1:6006 --cluster-replicas 1
#若是6台主机则加入不同的节点IP和对应端口号

#出现下方三主三从内容可以输入yes同意操作
Master[0] -> Slots 0 - 5460
Master[1] -> Slots 5461 - 10922
Master[2] -> Slots 10923 - 16383
Adding replica 127.0.0.1:6005 to 127.0.0.1:6001
Adding replica 127.0.0.1:6006 to 127.0.0.1:6002
Adding replica 127.0.0.1:6004 to 127.0.0.1:6003
>>> Trying to optimize slaves allocation for anti-affinity
[WARNING] Some slaves are in the same host as their master
M: 95ac0a79c362506feeebfe6c95183c5b35d5bc10 127.0.0.1:6001
   slots:[0-5460] (5461 slots) master
M: c4aa28a25d3954722e349d7e4c1ea0eda45d2942 127.0.0.1:6002
   slots:[5461-10922] (5462 slots) master
M: 9f49882017ba9934c408f820769c2c02ca625b84 127.0.0.1:6003
   slots:[10923-16383] (5461 slots) master
S: 99b4ef91374e94ed7741c5b1078e22c55ddee69a 127.0.0.1:6004
   replicates 95ac0a79c362506feeebfe6c95183c5b35d5bc10
S: 6bc401142e1c879954212e2d98893bfe9188b13e 127.0.0.1:6005
   replicates c4aa28a25d3954722e349d7e4c1ea0eda45d2942
S: 8d35119016ed01d002c9d6f13190d1e3966921da 127.0.0.1:6006
   replicates 9f49882017ba9934c408f820769c2c02ca625b84
Can I set the above configuration? (type 'yes' to accept): yes

image.png

image.png

③ 验证集群模式下的主从复制

#查看建立主从对应关系
redis-cli -p 6001 cluster slots  #进入端口6001的redis使用命令cluster slots查看主从对应关系

image.png

redis-cli -p 6001 -c 
#进入redis数据库，-c选项为自动跳转，不加该选项将会报错
set name zhangsan   #添加一个键与键值进入redis数据库
#添加键与键值后，集群会经过crc16算法进行插槽值的取余运算得出插槽值，并进行redis节点的数据插入

image.png

image.png

image.png

这里注意：在集群架构中，主节点负责数据的读写操作，从节点只能遵循复制的操作；除非主节点下线，否则从节点查询数据会自动跳转到主节点进行查询；不在主从对应关系的其他redis节点，互相无法查询对方的库中数据，数据为分片进行保留。

④ 集群模式补充内容

#如何查看key的插槽值
cluster keyslot [键名]

image.png

cluster nodes   #集群模式状态查询

image.png

集群总线的概念

  • 集群总线每个Redis集群中的节点都需要打开两个TCP连接。一个连接用于正常的给Client提供服务，比如6379，还有一个额外的端口(通过在这个端口号上加10000)作为数端口，例如: redis的端口为6379，那么另外一个需要开通的端口是:6379 + 10000， 即需要开启16379。
  • 16379端口用于集群总线，这是一个用二进制协议的点对点通信信道。这个集群总线(Cluster bus) 用于节点的失败侦测、配置更新、故障转移授权等等。
  • 若将节点加入集群中，出现“Waiting for the cluster to join”字样，大部分原因是集群总线的端口未开放。
avatar
文章
阅读
粉丝