文章目录

  • Redis集群
  • 1.单机安装Redis (之前安装过低版本的,也建议重新安装一下高版本6.2.4)
  • 2.Redis主从集群
  • 2.1.集群结构
  • 2.2.准备实例和配置 (一台机器上模拟才需要的操作)
  • 2.3.启动
  • 2.4.开启主从关系
  • 2.5.测试
  • 3.搭建哨兵集群 (专门的redis-sentinel命令)
  • 3.1.集群结构
  • 3.2.准备实例和配置
  • 3.3.启动
  • 3.4.测试故障恢复
  • 4.搭建分片集群
  • 4.1.集群结构
  • 4.2.准备实例和配置
  • 4.3.启动
  • 4.4.创建集群
  • 4.5.测试


Redis集群

本章是基于CentOS7下的Redis集群教程,包括:

  • 单机安装Redis
  • Redis主从
  • Redis分片集群

1.单机安装Redis (之前安装过低版本的,也建议重新安装一下高版本6.2.4)

之前安装过低版本的,也建议重新安装一下高版本6.2.4。不然有些配置会报错

首先需要安装Redis所需要的依赖:

yum install -y gcc tcl

然后将资料提供的Redis安装包上传到虚拟机的任意目录:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件

链接:https://pan.baidu.com/s/1h6LelbQjxGoIwX66ypS7Kw 提取码:hzan

例如,我放到了/tmp目录:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_微服务_02

解压缩:

tar -xvf redis-6.2.4.tar.gz

解压后:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_Redis_03

进入redis目录:

cd redis-6.2.4

运行编译命令:

make && make install

如果没有出错,应该就安装成功了。

然后修改redis.conf文件中的一些配置:

# 绑定地址,默认是127.0.0.1,会导致只能在本地访问。修改为0.0.0.0则可以在任意IP访问
bind 0.0.0.0
# 数据库数量,设置为1
databases 1

启动Redis:

redis-server redis.conf

停止redis服务:

redis-cli shutdown

之前装过redis,版本太低,也需要重新安装,直接安装会覆盖之前的环境变量,但是应该不会有其他冲突了
比如我之前装过redis4.0.0版本了,那么就必须再重新安装6.2.4版本了

2.Redis主从集群

单节点Redis的并发能力是有上限的,要进一步提高Redis的并发能力,就需要搭建主从集群,实现读写分离。

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_04

2.1.集群结构

我们搭建的主从集群结构如图:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_05

共包含三个节点,一个主节点,两个从节点。

这里我们会在同一台虚拟机中开启3个redis实例,模拟主从集群,信息如下:

IP

PORT

角色

192.168.141.100

7001

master

192.168.141.100

7002

slave

192.168.141.100

7003

slave

2.2.准备实例和配置 (一台机器上模拟才需要的操作)

(我们是在同一台机器上开启3个redis模拟集群的,所以比较麻烦,真的有多台机器,完全不需要这一步)

要在同一台虚拟机开启3个实例,必须准备三份不同的配置文件和目录,配置文件所在目录也就是工作目录。

1)创建目录

我们创建三个文件夹,名字分别叫7001、7002、7003:

# 进入/tmp目录
cd /tmp
# 创建目录
mkdir 7001 7002 7003

如图:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_06

2)恢复原始配置

修改/tmp/redis-6.2.4/redis.conf文件,将其中的持久化模式改为默认的RDB模式,AOF保持关闭状态。

# 开启RDB
# save ""
save 3600 1
save 300 100
save 60 10000

# 关闭AOF
appendonly no

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_Redis_07


Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_08

为何要把RDB开启,AOF关闭呢?
后面学习主从同步原理就知道了
学完原理后来补上:
学完啦:很简单,因为主节点才能写,从节点只能读,主节点就需要将所有数据同步给从节点,如何同步?不正是RDB模式下生成的.rdb文件,里面包含了redis内存数据呀

3)拷贝配置文件到每个实例目录

然后将 /tmp/redis-6.2.4/redis.conf文件拷贝到三个目录中:

# 方式一:逐个拷贝
cp /tmp/redis-6.2.4/redis.conf /tmp/7001
cp /tmp/redis-6.2.4/redis.conf /tmp/7002
cp /tmp/redis-6.2.4/redis.conf /tmp/7003
# 方式二:管道组合命令,一键拷贝
echo /tmp/7001 /tmp/7002 /tmp/7003 | xargs -t -n 1 cp /tmp/redis-6.2.4/redis.conf

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_09

4)修改每个实例的端口、工作目录

修改每个文件夹内的配置文件,将端口分别修改为7001、7002、7003,将rdb文件保存位置都修改为自己所在目录 (在/tmp目录执行下列命令)

sed -i -e 's/6379/7001/g' -e 's/dir .\//dir \/tmp\/7001\//g' 7001/redis.conf
sed -i -e 's/6379/7002/g' -e 's/dir .\//dir \/tmp\/7002\//g' 7002/redis.conf
sed -i -e 's/6379/7003/g' -e 's/dir .\//dir \/tmp\/7003\//g' 7003/redis.conf

解释: sed命令,快速对文档进行修改的命令,这里修改的是文档 Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_10
s/表示替换,/g表示全局,合起来's/6379/7001/g' 表示将文档里所有的6379都替换成7001
同理's/dir .\//dir \/tmp\/7001\//g' 表示将所有的 dir ./都替换成 dir /tmp/7001

就是修改每个配置文件里的这两个配置:

端口号: (默认6379)

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_Redis_11


保存目录:(默认当前目录)

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_微服务_12


这两个都要修改掉

5)修改每个实例的声明IP

虚拟机本身有多个IP,为了避免将来混乱,我们需要在redis.conf文件中指定每一个实例的绑定ip信息,格式如下:

# redis实例的声明 IP
replica-announce-ip 192.168.141.100

每个目录都要改,我们一键完成修改(在/tmp目录执行下列命令):(定死ip,防止以后变化)

# 逐一执行
sed -i '1a replica-announce-ip 192.168.141.100' 7001/redis.conf
sed -i '1a replica-announce-ip 192.168.141.100' 7002/redis.conf
sed -i '1a replica-announce-ip 192.168.141.100' 7003/redis.conf

# 或者一键修改
printf '%s\n' 7001 7002 7003 | xargs -I{} -t sed -i '1a replica-announce-ip 192.168.141.100' {}/redis.conf

这里的la指的是在每个文件第一行追加一行
这样每个文件第一行都是replica-announce-ip 192.168.141.100
注意IP地址换成自己虚拟机的ip

2.3.启动

为了方便查看日志,我们打开3个ssh窗口,分别启动3个redis实例,启动命令:

# 第1个
redis-server 7001/redis.conf
# 第2个
redis-server 7002/redis.conf
# 第3个
redis-server 7003/redis.conf

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_13

启动后:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_14

如果要一键停止,可以运行下面命令:

printf '%s\n' 7001 7002 7003 | xargs -I{} -t redis-cli -p {} shutdown

2.4.开启主从关系

现在三个实例还没有任何关系,要配置主从可以使用replicaof 或者slaveof(5.0以前)命令。

有临时和永久两种模式:

  • 修改配置文件(永久生效)
  • 在redis.conf中添加一行配置:slaveof <masterip> <masterport>(配置了这行的节点会成为salve,主就是配置指定的主)
  • 使用redis-cli客户端连接到redis服务,执行slaveof命令(重启后失效):
slaveof <masterip> <masterport>

注意:在5.0以后新增命令replicaof,与salveof效果一致。

这里我们为了演示方便,使用方式二。

通过redis-cli命令连接7002,执行下面命令:

# 连接 7002
redis-cli -p 7002
# 执行slaveof
slaveof 192.168.141.100 7001

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_微服务_15

通过redis-cli命令连接7003,执行下面命令:

# 连接 7003
redis-cli -p 7003
# 执行replicaof (和slaveof等价的命令,5.0版本之后开始有)
replicaof 192.168.141.100 7001

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_16

然后连接 7001节点,查看集群状态:

# 连接 7001
redis-cli -p 7001
# 查看状态
info replication

结果:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_17

2.5.测试

执行下列操作以测试:

  • 利用redis-cli连接7001,执行set num 123
  • 利用redis-cli连接7002,执行get num,再执行set num 666
  • 利用redis-cli连接7003,执行get num,再执行set num 888

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_18


Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_19

可以发现,只有在7001这个master节点上可以执行写操作,7002和7003这两个slave节点只能执行读操作。且所有数据都是3个节点完全自动同步的

注意前面的redis集群和redis主从关系环境请保留,下面测试都要用到

3.搭建哨兵集群 (专门的redis-sentinel命令)

注意前面的redis集群和redis主从关系环境请保留,下面测试都要用到

3.1.集群结构

这里我们搭建一个三节点形成的Sentinel集群,来监管之前的Redis主从集群。如图:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_20

三个sentinel实例信息如下:

节点

IP

PORT

s1

192.168.141.100

27001

s2

192.168.141.100

27002

s3

192.168.141.100

27003

3.2.准备实例和配置

要在同一台虚拟机开启3个实例,必须准备三份不同的配置文件和目录,配置文件所在目录也就是工作目录。

我们创建三个文件夹,名字分别叫s1、s2、s3:

# 进入/tmp目录
cd /tmp
# 创建目录
mkdir s1 s2 s3

如图:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_21

然后我们在s1目录创建一个sentinel.conf文件,添加下面的内容:

port 27001
sentinel announce-ip 192.168.141.100
sentinel monitor mymaster 192.168.141.100 7001 2
sentinel down-after-milliseconds mymaster 5000
sentinel failover-timeout mymaster 60000
dir "/tmp/s1"

解读:

  • port 27001:是当前sentinel实例的端口 (s2改成27002; s3改成27003)
  • sentinel announce-ip 192.168.141.100 sentienl实例声明自己的ip地址
  • sentinel monitor mymaster 192.168.141.100 7001 2:指定主节点信息 (告诉sentinel的只是master就够了,因为通过master可以找到所有的slave)
  • mymaster:主节点名称,自定义,任意写 (也可以看成是集群名称)
  • 192.168.141.100 7001:主节点的ip和端口
  • 2:选举master时的quorum值(quorum=2 超过2个的sentinel都认为你主观下线,则判定你客观下线)

然后将s1/sentinel.conf文件拷贝到s2、s3两个目录中(在/tmp目录执行下列命令):

# 方式一:逐个拷贝
cp s1/sentinel.conf s2
cp s1/sentinel.conf s3
# 方式二:管道组合命令,一键拷贝
echo s2 s3 | xargs -t -n 1 cp s1/sentinel.conf

修改s2、s3两个文件夹内的配置文件,将端口分别修改为27002、27003:

sed -i -e 's/27001/27002/g' -e 's/s1/s2/g' s2/sentinel.conf
sed -i -e 's/27001/27003/g' -e 's/s1/s3/g' s3/sentinel.conf

3.3.启动

为了方便查看日志,我们打开3个ssh窗口,分别启动3个redis实例,启动命令:

# 第1个
redis-sentinel s1/sentinel.conf
# 第2个
redis-sentinel s2/sentinel.conf
# 第3个
redis-sentinel s3/sentinel.conf

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_Redis_22

启动后:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_Redis_23

3.4.测试故障恢复

之前(启动三个sentinel实例之前,3个redis实例都是已经启动好了的)

尝试让master节点7001宕机,查看sentinel日志:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_24

查看7003的日志:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_微服务_25

查看7002的日志:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_26

重新启动原来的主:7001

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_27

小结一下,其实很简单,我们只是启动了3个redis-sentinel实例,分别配置了下主redis节点,剩下的都不用我们管了,哨兵都帮你弄好了(帮你监测,帮你故障恢复)

上面的3个redis-sentinel和3个redis都可以关闭了,其中redis-sentinel3个窗口都可以干掉了,分片集群方式不需要哨兵来监控

4.搭建分片集群

4.1.集群结构

分片集群需要的节点数量较多,简单起见,这里我们搭建一个最小的分片集群,包含3个master节点,每个master包含一个slave节点,结构如下:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_28

这里我们会在同一台虚拟机中开启6个redis实例,模拟分片集群,信息如下:

IP

PORT

角色

192.168.141.100

7001

master

192.168.141.100

7002

master

192.168.141.100

7003

master

192.168.141.100

8001

slave

192.168.141.100

8002

slave

192.168.141.100

8003

slave

4.2.准备实例和配置

删除之前的7001、7002、7003这几个目录(可以先关闭所有集群实例,然后将目录移动到别即可),重新创建出7001、7002、7003、8001、8002、8003目录:

# 进入/tmp目录
cd /tmp
# 删除旧的,避免配置干扰 (这里不删除,而是移动到一个新的目录下)
mkdir master-slave
mv 7* master-slave
mv s* master-slave
# 创建目录
mkdir 7001 7002 7003 8001 8002 8003

在/tmp下准备一个新的redis.conf文件,内容如下:

port 6379
# 开启集群功能
cluster-enabled yes
# 集群的配置文件名称,不需要我们创建,由redis自己维护
cluster-config-file /tmp/6379/nodes.conf
# 节点心跳失败的超时时间
cluster-node-timeout 5000
# 持久化文件存放目录
dir /tmp/6379
# 绑定地址
bind 0.0.0.0
# 让redis后台运行 (不再占用控制台了)
daemonize yes
# 注册的实例ip
replica-announce-ip 192.168.150.101
# 保护模式
protected-mode no
# 数据库数量
databases 1
# 日志
logfile /tmp/6379/run.log

将这个文件拷贝到每个目录下:

# 进入/tmp目录
cd /tmp
# 执行拷贝
echo 7001 7002 7003 8001 8002 8003 | xargs -t -n 1 cp redis.conf

修改每个目录下的redis.conf,将其中的6379修改为与所在目录一致:

# 进入/tmp目录
cd /tmp
# 修改配置文件 (6379分别改成7001、7002、7003、8001、8002、8003)
printf '%s\n' 7001 7002 7003 8001 8002 8003 | xargs -I{} -t sed -i 's/6379/{}/g' {}/redis.conf

4.3.启动

因为已经配置了后台启动模式,所以可以直接启动服务:(不需要真的开6个终端窗口)

# 进入/tmp目录
cd /tmp
# 一键启动所有服务
printf '%s\n' 7001 7002 7003 8001 8002 8003 | xargs -I{} -t redis-server {}/redis.conf

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_Redis_29

通过ps查看状态:

ps -ef | grep redis

发现服务都已经正常启动:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_30

如果要关闭所有进程,可以执行命令:

ps -ef | grep redis | awk '{print $2}' | xargs kill

或者(推荐这种方式):

printf '%s\n' 7001 7002 7003 8001 8002 8003 | xargs -I{} -t redis-cli -p {} shutdown

4.4.创建集群

虽然服务启动了,但是目前每个服务之间都是独立的,没有任何关联。

我们需要执行命令来创建集群,在Redis5.0之前创建集群比较麻烦,5.0之后集群管理命令都集成到了redis-cli中。

查看redis版本:

redis-server -v

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_Redis_31

1)Redis5.0之前

Redis5.0之前集群命令都是用redis安装包下的src/redis-trib.rb来实现的。因为redis-trib.rb是有ruby语言编写的所以需要安装ruby环境。

# 安装依赖
yum -y install zlib ruby rubygems
gem install redis

然后通过命令来管理集群:

# 进入redis的src目录
cd /tmp/redis-6.2.4/src
# 创建集群
./redis-trib.rb create --replicas 1 192.168.141.100:7001 192.168.141.100:7002 192.168.141.100:7003 192.168.141.100:8001 192.168.141.100:8002 192.168.141.100:8003

2)Redis5.0以后

我们使用的是Redis6.2.4版本,集群管理以及集成到了redis-cli中,格式如下:

redis-cli --cluster help 可以查看集群操作的所有命令

redis-cli --cluster create --cluster-replicas 1 192.168.141.100:7001 192.168.141.100:7002 192.168.141.100:7003 192.168.141.100:8001 192.168.141.100:8002 192.168.141.100:8003

命令说明:

  • redis-cli --cluster或者./redis-trib.rb:代表集群操作命令
  • create:代表是创建集群
  • --replicas 1或者--cluster-replicas 1 :指定集群中每个master的副本个数为1 (主从节点比例为1:1),此时节点总数 ÷ (replicas + 1) 得到的就是master的数量。因此节点列表中的前n个就是master,其它节点都是slave节点,随机分配到不同master

这里参数1就已经表明,每个主带一个从,一共给了6个节点,那么主节点就只有6/2=3个,该命令直接认定前3个节点为主节点,所以把主节点写前3个就行了(从节点是随机的了),一行命令不仅启动了分片集群,甚至连主从关系都自动设置好了

运行后的样子:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_微服务_32

这里输入yes,则集群开始创建:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_33

通过命令可以查看集群状态:

redis-cli -p 7001 cluster nodes

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_34

4.5.测试

尝试连接7001节点,存储一个数据:

# 连接
redis-cli -p 7001
# 存储数据
set num 123
# 读取数据
get num
# 再次存储
set a 1

结果悲剧了:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_redis_35

集群操作时,需要给redis-cli加上-c参数才可以:

redis-cli -c -p 7001

这次可以了:

Redis集群搭建-主从集群or哨兵集群or分片集群(推荐)_配置文件_36