zookeeper简介
产生背景
从单体项目到分布式项目转变之后,会产生多个服务节点之间的协同问题。如
1.每天的定时任务有哪个节点执行
2.RPC调用时的服务发现
3.如何保证并发请求的幂等性
4. ...
这些问题可以统一归纳为多节点协调问题,如果靠节点自身进行协调这是非常不可靠的,性能也不可取。必须由一个独立的服务去完成协调工作,它必须可靠且保证性能。
概要
Zookeeper 是用于分布式应用程序的协调服务。他有一组简单的API,基于这组API可以进行同步节点状态、配置等信息、服务发现等。它由JAVA编写,支持JAVA和C两种语言的客户端。
znode节点
zookeeper中数据的基本单元叫节点,节点下面可以包含子节点,最后以树的方式展现,每个节点拥有唯一的路径。客户端基于path上传节点数据,zookeeper收到后会实时的通知对该路径监听的客户端。
部署与常规配置
安装启动
1.wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/current/apache- zookeeper-3.5.5-bin.tar.gz
2. tar -zxvf apache-zookeeper-3.5.5-bin.tar.gz
3. 拷贝默认配置
cd {zookeeper_home}/conf
cp zoo_sample.cfg zoo.cfg
4.启动
{zookeeper_home}/bin/zkServer.sh
常规配置文件说明
# zookeeper时间配置中的基本单位 (毫秒)
tickTime=2000
#允许follower初始化连接到leader最大时长,它表示tickTime时间倍数 实际时间为:initLimit*tickTime
initLimit=10
#允许follower与leader数据同步最大时长,它表示tickTime时间倍数
syncLimit=5
#zookeper 数据存储目录
dataDir=/tmp/zookeeper
#对客户端提供的端口号
clientPort=2181
#单个客户端与zookeeper最大并发连接数
maxClientCnxns=60
#保存的数据快照数量,之外的将会被清除
autopurge.snapRetainCount=3
#自动触发清除任务时间间隔,小时为单位。默认为0,表示不自动清除。
autopurge.purgeInterval=1
客户端命令
基本命令列表
#关闭当前会话
close
#重新连接指定Zookeeper服务
connect host:port
#创建节点
create [-s] [-e] [-c] [-t ttl] path [data] [acl]
#删除节点,(不能存在子节点)
delete [-v version] path
#删除路径及所有子节点
deleteall path
#设置节点限额 -n 子节点数 -b 字节数
setquota -n|-b val path
#查看节点限额
listquota path
#删除节点限额
delquota [-n|-b] path
#查看节点数据 -s 包含节点状态 -w 添加监听
get [-s] [-w] path
#列出子节点 -s状态 -R 递归查看所有子节点 -w 添加监听
getAcl [-s] path
ls [-s] [-w] [-R] path
#是否打印监听事件
printwatches on|off
#退出客户端
quit
#查看执行的历史记录
history
#重复 执行命令,history 中命令编号确定
redo cmdno
#删除指定监听
removewatches path [-c|-d|-a] [-l]
#设置值
set [-s] [-v version] path data
#为节点设置ACL权限
setAcl [-s] [-v version] [-R] path acl
#查看节点状态 -w 添加监听
stat [-w] path
#强制同步节点
sync path
node数据的增删改查
#列出子节点
ls /
#创建节点
create /fengxinzi "fengxinzi is good man"
# 查看节点
get /fengxinzi
# 创建子节点
create /fengxinzi/sex "man"
# 删除节点
delete /fengxinzi/sex
# 删除所有节点 包括子节点
deleteall /fengxinzi
zookeeper 节点介绍
节点类型
类型 | 描述 |
PERSISTENT | 持久节点 |
PERSISTENT_SEQUENTIAL | 持久序号节点 |
EPHEMERAL | 临时节点(不能拥有子节点) |
EPHEMERAL_SEQUENTIAL | 临时序号节点(不能拥有子节点) |
CONTAINER | 容器节点 |
- PERSISTENT(持久节点)
会进行持久化保存的节点,也是默认创建的节点类型
#创建持久节点
create /user - PERSISTENT_SEQUENTIAL(持久序号节点)
创建此类型节点时zookeeper会在路径上加上序号作为后缀。适合用于分布式锁、分布式选举等场景。创建时添加 -s 参数即可。
#创建序号节点
create -s /user
#返回创建的实际路径
Created /user0000000001
create -s /user
#返回创建的实际路径2
Created /user0000000002 - EPHEMERAL(临时节点)
临时节点会在客户端会话断开后自动删除。适用于心跳,服务发现等场景。创建时添加参数-e 即可。
#创建临时节点,断开会话 在连接将会自动删除
create -e /temp - EPHEMERAL_SEQUENTIAL(临时序号节点)
与持久序号节点类似,不同之处在于EPHEMERAL_SEQUENTIAL是临时的会在会话断开后删除。创建时添加 -e -s
#创建临时序号节点
create -e -s /temp/seq - CONTAINER(容器节点)
如果Container节点下面没有子节点,则Container节点 在未来会被Zookeeper自动清除,定时任务默认60s 检查一次。 - TTL 节点
默认禁用,只能通过系统配置zookeeper.extendedTypesEnabled=true开启,不稳定。
节点属性
查看节点属性命令:stat /fengxinzi
节点属性说明如下:
属性值 | 说明 |
cZxid = 0x385 | 创建节点的事物ID |
ctime = Tue Sep 24 17:26:28 CST 2020 | #创建时间 |
mZxid = 0x385 | 修改节点的事物ID |
mtime = Tue Sep 24 17:26:28 CST 2020 | 最后修改时间 |
pZxid = 0x385 | mtime = Tue Sep 24 17:26:28 CST 2019 |
cversion = 0 | znode的子节点进行的更改次数 |
dataVersion = 0 | 数据版本,变更次数 |
aclVersion = 0 | dataVersion = 0 |
ephemeralOwner = 0x0 | 临时节点所属会话ID |
dataLength = 17 | 数据长度 |
numChildren = 0 | 子节点数 |
节点监听
客户添加 -w 参数可实时监听节点与子节点的变化,并且实时收到通知。非常适用保障分布式情况下的数据一致性。
使用方式
命令 | 说明 |
ls -w path | 监听子节点的变化(增,删 |
get -w path | 监听节点数据的变化 |
stat -w path | 监听节点属性的变化 |
printwatches on/off | 触发监听后,是否打印监听事件(默认on) |
acl权限设置
ACL全称为Access Control List(访问控制列表),用于控制资源的访问权限。ZooKeeper使用ACL来控制对其znode的防问。基于scheme:Id:permission的方式进行权限控制。scheme表示授权模式、id模式对应值、permission即具体的增删改权限位。
scheme 认证模型
方案 | 描述 |
world | 开放模式,world表示全世界都可以访问(这是默认设置) |
ip | ip模式,限定客户端IP防问 |
auth | 用户密码认证模式,只有在会话中添加了认证才可以防问 |
digest | 与auth类似,区别在于auth用明文密码,而digest 用sha-1+base64加密后的密码。在实际使用中digest 更常见。 |
permission权限位
权限位 | 权限 | 描述 |
c | CREATE | 可以创建子节点 |
d | DELETE | 可以删除子节点(仅下一级节点) |
r | READ | 可以读取节点数据及显示子节点列表 |
w | WRITE | 可以设置节点数据 |
a | ADMIN | 可以设置节点访问控制列表权限 |
acl 相关命令:
命令 | 使用方式 | 描述 |
getAcl | getAcl ${path} | 读取ACL权限 |
setAcl | setAcl ${path} ${acl} | 设置ACL权限 |
addauth | addauth ${scheme} ${auth} | 添加认证用户 |
权限示例
world权限示例
语法: setAcl ${path} world:anyone:<权限位> (world模式中anyone是唯一的值,表示所有人)
- 查看默认节点权限
#创建一个节点
create -e /testAcl
#查看节点权限
getAcl /testAcl
#返回的默认权限表示 ,所有人拥有所有权限。
'world,'anyone: cdrwa - 修改默认权限为 读写
#设置为rw权限
setAcl /testAcl world:anyone:rw
#可以正常读
get /testAcl
#无法正常创建子节点
create -e /testAcl/t “hi”
#上面命令返回没有权限的异常
Authentication is not valid : /testAcl/t
IP权限示例
语法: setAcl path ip:<ip地址|地址段>:<权限位>
auth模式示例
语法:
- setAcl path auth:<用户名>:<密码>:<权限位>
- addauth digest <用户名>:<密码>
digest 权限示例
语法:
- setAcl ${path} digest :<用户名>:<密钥>:<权限位>
- addauth digest <用户名>:<密码>
注意点1:密钥 通过sha1与base64组合加密码生成,可通过以下命令生成
echo -n <用户名>:<密码> | openssl dgst -binary -sha1 | openssl base64
注意点2:为节点设置digest 权限后,访问前必须执行addauth,当前会话才可以防问