分片集群需要的节点数量较多,本文将搭建一个最小的分片集群,包含3个master节点,每个master跟着一个slave节点。
最终会用docker开启6个redis实例,模拟分片集群,信息如下:
节点 | IP | 宿主机的映射端口 | 容器内端口 | 角色 |
master-1 | 172.31.0.11 | 8001 | 6379 | master |
master-2 | 172.31.0.12 | 8002 | 6379 | master |
master-3 | 172.31.0.13 | 8003 | 6379 | master |
slave-1 | 172.31.0.21 | 9001 | 6379 | slave |
slave-2 | 172.31.0.22 | 9002 | 6379 | slave |
slave-3 | 172.31.0.23 | 9003 | 6379 | slave |
Windows上利用docker搭建Redis分片集群(三主三从):
- 拉取最新的redis镜像
docker pull redis:latest
- 在本机上某位置新建文件夹
docker_redis/master-1/conf
,docker_redis/master-2/conf
,docker_redis/master-3/conf
,docker_redis/slave-1/conf
,docker_redis/slave-2/conf
,docker_redis/slave-3/conf
来存放这六个redis节点的配置文件 - 拷贝一份redis配置文件
redis.conf
到刚刚创建的各个节点的conf
目录下redis.conf
可以在官方的基础上修改,主要改以下几点:
port 6379
# 开启集群功能
cluster-enabled yes
# 集群的配置文件名称,不需要我们创建,由redis自己维护
cluster-config-file nodes.conf
# 节点心跳失败的超时时间
cluster-node-timeout 5000
cluster-announce-ip 172.31.0.11
cluster-announce-port 6379
cluster-announce-bus-port 16379
# 绑定地址
bind 0.0.0.0
# 注册的实例ip
replica-announce-ip 172.31.0.11
# 保护模式
protected-mode no
# 数据库数量
databases 1
其它节点只需将这个redis.conf
复制到自己的conf
目录下即可,然后修改cluster-announce-ip
和replica-announce-ip
为自己的IP地址即可。
注意:对于从节点,不要在配置文件中配置replicaof
,否则启动容器时会报错replicaof directive not allowed in cluster mode
。
- 创建docker网络,记得设置子网,子网要与配置文件中redis节点的IP保持一致
关于docker的网络模式和容器间的网络通信可以看这篇文章
docker network create --subnet 172.31.0.0/16 redis-net
- docker启动六个redis实例容器,并分别将本机的8001、8002等端口映射到每个容器的6379端口,创建时将宿主机上的配置文件夹挂载到redis容器中
docker run -p 8001:6379 -p 18001:16379 --name master-1 -v D:\docker_redis\master-1\conf:/etc/redis --net redis-net --ip 172.31.0.11 -d redis redis-server /etc/redis/redis.conf
docker run -p 8002:6379 -p 18002:16379 --name master-2 -v D:\docker_redis\master-2\conf:/etc/redis --net redis-net --ip 172.31.0.12 -d redis redis-server /etc/redis/redis.conf
docker run -p 8003:6379 -p 18003:16379 --name master-3 -v D:\docker_redis\master-3\conf:/etc/redis --net redis-net --ip 172.31.0.13 -d redis redis-server /etc/redis/redis.conf
docker run -p 9001:6379 -p 19001:16379 --name slave-1 -v D:\docker_redis\slave-1\conf:/etc/redis --net redis-net --ip 172.31.0.21 -d redis redis-server /etc/redis/redis.conf
docker run -p 9002:6379 -p 19002:16379 --name slave-2 -v D:\docker_redis\slave-2\conf:/etc/redis --net redis-net --ip 172.31.0.22 -d redis redis-server /etc/redis/redis.conf
docker run -p 9003:6379 -p 19003:16379 --name slave-3 -v D:\docker_redis\slave-3\conf:/etc/redis --net redis-net --ip 172.31.0.23 -d redis redis-server /etc/redis/redis.conf
注意:
- 每个容器的IP要与它们在配置文件中设置的IP相同
- 将宿主机上的
conf
文件夹挂载到容器内,防止容器关闭后配置丢失。注意这里不要直接挂载配置文件,否则可能导致哨兵没有写入配置文件的权限, 在日志中会报WARNING: Sentinel was not able to save the new configuration on disk!!!: Device or resource busy.
,因此要采用直接挂载文件夹的形式 - 创建时不要挂载data文件夹,后续可能会出现
Failed trying to load the MASTER synchronization DB from disk
的错误,主从同步也会失败(暂不清楚原因)
虽然服务启动了,但是目前每个服务之间都是独立的,没有任何关联。
我们需要执行命令来创建集群,在Redis5.0之前创建集群比较麻烦,5.0之后集群管理命令都集成到了redis-cli中。
- 创建集群(Redis5.0以后)
- 进入任一个redis容器的终端,这里选择在
master-1
的终端
docker exec -it master-1 bash
- 将这六个redis节点建立一个集群,需要传入所有节点的IP及端口号
redis-cli --cluster create --cluster-replicas 1 172.31.0.11:6379 172.31.0.12:6379 172.31.0.13:6379 172.31.0.21:6379 172.31.0.22:6379 172.31.0.23:6379
命令说明:
-
redis-cli --cluster
:代表集群操作命令 -
create
:代表是创建集群 -
--cluster-replicas 1
:指定集群中每个master的副本个数为1,此时节点总数 ÷ (replicas + 1)
得到的就是master的数量。因此节点列表中的前n个就是master,其它节点都是slave节点,随机分配到不同master(这里也看出分片集群中的主从关系不是在从节点的配置文件中配置replicaof
,而是给定每个master的副本数量后自动计算master个数然后随机分配slave)
- 集群建立成功,可以执行如下命令查看集群信息
先连接redis:
redis-cli -c
查看集群信息:
cluster info
查看集群节点信息:
cluster nodes
- 测试
- 在集群中任意一个节点连接redis
redis-cli -c
注意这里得用redis-cli -c
而不能用redis-cli
- 无论在哪个节点上执行存或取,都会先计算插槽值,然后重定向到负责该插槽的节点上去。