服务注册与分布式协调 / 系统课时

动态重新配置

动态重新配置

动态重新配置用于在不中断 ZooKeeper 服务的前提下调整集群成员。本文以受控加入、移除和版本条件更新为主线,重点说明动态配置文件为什么不能手工改,以及怎样避免并发变更覆盖和错误关停旧节点。

学习目标

  • 区分静态配置与动态配置,正确启用并保护 reconfig 能力
  • 完成成员加入、成员移除,并验证新配置已经真正接管
  • 使用配置版本条件控制批量变更,避免覆盖其他管理员的修改

启用动态配置而不是手改成员列表

ZooKeeper 会把 server、group、weight 这类可运行时变更的参数放入动态配置,并通过 dynamicConfigFile 从静态配置引用。动态文件会随重新配置自动更新,创建后不要直接编辑;离线改文件可能与事务日志和 /zookeeper/config 中记录的权威配置冲突。

从 ZooKeeper 3.5.3 起,动态重新配置默认关闭。生产环境应显式开启 reconfigEnabled,同时配置认证和 /zookeeper/config 的写权限,只允许运维身份执行成员变更。若希望单节点也始终运行分布式协议栈,可按需要设置 standaloneEnabled=false。

properties
reconfigEnabled=true
standaloneEnabled=false

这段配置需要随节点启动配置生效。启用后仍不代表任何客户端都能修改成员;安全集群还必须让执行 reconfig 的身份拥有 /zookeeper/config 的写权限。

读取成员格式与配置版本

成员行的核心格式是 server.id=host:quorumPort:electionPort:role;clientPort。participant 参与投票,observer 不参与投票。当前动态配置保存在 /zookeeper/config,配置版本来自产生该配置的重新配置事务,可以用它做乐观并发控制。

下面先同步配置视图,再读取精简的版本和客户端地址。示例假设客户端脚本位于当前目录的 bin 下。

bash
printf 'sync /zookeeper/config\nconfig -c\nquit\n' | bin/zkCli.sh -server zk1:2181

预期输出中的关键部分如下,实际版本值和地址顺序可能不同。

text
<VERSION> zk1:2181,zk2:2181,zk3:2181

<VERSION> 是当前配置版本。执行批量重新配置前应先记录它;若别人先完成了变更,后续带旧版本的请求应失败,而不是静默覆盖新配置。

安全加入新成员

新节点不能在完全不了解现有集群的情况下直接成为独立投票集群。加入前先为它准备包含当前已提交成员和自身的初始成员表,让它能够找到现有 Leader 并完成同步。一次引入多个 joiner 时,把 joiner 在初始配置中列为 observer 更安全;不要让多个新节点仅凭彼此组成新的独立多数派。

当新节点已经连接并同步后,再由已有集群提交成员变更。下面把 server.4 加为投票成员。

bash
printf 'reconfig -add server.4=zk4:2888:3888:participant;2181\nconfig\nquit\n' | bin/zkCli.sh -server zk1:2181

预期输出中的成员部分应出现新节点,并产生新的配置版本。

text
server.1=zk1:2888:3888:participant;2181
server.2=zk2:2888:3888:participant;2181
server.3=zk3:2888:3888:participant;2181
server.4=zk4:2888:3888:participant;2181
version=<VERSION>

ZooKeeper 动态重新配置的加入、提交与版本切换流程

重新配置切换期间,旧配置与新配置的多数派都需要可用,因此不要在 joiner 尚未同步时同时停掉现有节点。若只是调整已有成员的端口或 participant/observer 角色,也可以用 -add 重新提交该成员的新参数。

移除成员后再关停旧节点

移除操作只改变成员资格,不会替你停止进程。被移除的服务器会暂时成为不计票的 follower,因此应先确认新配置接管,再关停旧节点。

bash
printf 'reconfig -remove 4\nconfig\nquit\n' | bin/zkCli.sh -server zk1:2181

预期输出中不再包含 server.4,并出现新的版本值。

text
server.1=zk1:2888:3888:participant;2181
server.2=zk2:2888:3888:participant;2181
server.3=zk3:2888:3888:participant;2181
version=<VERSION>

reconfig 返回成功只表示配置切换已经提交到协议流程中。若要确认旧配置之前排队的事务也已完成,可再提交一次正常的业务写操作并等待成功;sync 不是写事务,不能替代这一步。确认后再停止被移除节点。

用版本条件保护批量变更

非增量模式适合一次提交完整成员表,也能结合 -v 做条件更新。先把期望配置写入独立文件,不要直接修改 ZooKeeper 已生成的动态配置文件。

properties
server.1=zk1:2888:3888:participant;2181
server.2=zk2:2888:3888:participant;2181
server.3=zk3:2888:3888:participant;2181
server.4=zk4:2888:3888:observer;2181

假设文件保存为 /tmp/ensemble.next,把刚才 config -c 取得的版本替换到 <VERSION> 后再提交。

bash
printf 'reconfig -file /tmp/ensemble.next -v <VERSION>\nquit\n' | bin/zkCli.sh -server zk1:2181

预期成功时会返回新成员配置,并生成比旧配置更新的版本。

text
server.1=zk1:2888:3888:participant;2181
server.2=zk2:2888:3888:participant;2181
server.3=zk3:2888:3888:participant;2181
server.4=zk4:2888:3888:observer;2181
version=<NEW_VERSION>

若 <VERSION> 已过期,重新配置应以版本不匹配失败。此时重新读取 config -c、审查别人已经提交的变化,再生成下一版配置;不要去改版本号或磁盘上的动态文件来强行绕过冲突。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

动态重新配置

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通