服务注册与分布式协调 / 系统课时

跨机房部署边界

跨机房部署边界

跨机房部署 ZooKeeper 的难点不在“节点能不能连通”,而在多数派是否被拉进广域网故障域。本节从写入提交、Leader 选举和站点失效三个角度判断拓扑边界,并给出可验证的部署取舍。

学习目标

  • 解释跨机房 RTT 如何进入 ZooKeeper 的写入提交与选举路径。
  • 判断 1+1+1、2+1 和“本地主投票节点 + 异地 Observer”拓扑的故障边界。
  • 用配置与角色检查验证远端节点是否误入投票多数派。

多数派决定跨机房成本

ZooKeeper 的投票节点称为 Participant。对包含 NN 个 Participant 的集群,可形成法定多数派所需节点数为 Q=⌊N/2⌋+1Q=\lfloor N/2 \rfloor+1。Leader 提议写入后,需要得到多数派确认才能提交,因此真正决定写延迟的不是“最慢的所有节点”,而是完成多数派所需的那批节点。

如果 3 个 Participant 分别位于 3 个机房,Leader 无论在哪个机房,每次写入都至少需要一个跨机房确认,广域网 RTT 会进入关键路径。若是 2+1 分布,Leader 与另一个 Participant 同处双节点机房时,正常写入可能只靠本地多数派完成;但本地任一投票节点不可用后,远端节点就会进入关键路径。

跨机房 ZooKeeper 多数派拓扑对比

拓扑先看站点失效再看节点数

单看“3 节点”或“5 节点”会掩盖真正的风险,应该把机房视为故障单元。3 节点按 2+1 分布时,双节点机房拥有多数派,所以单个远端机房失效不会中断服务;反过来,双节点机房整体失效后,剩下 1 个节点无法形成 quorum。

拓扑 正常写入特征 整站故障边界
1+1+1 Participant 每次提交都依赖 WAN 多数派 任失去 1 个机房仍可继续
2+1 Participant Leader 位于双节点机房时可优先走本地多数派 双节点机房失效即失去 quorum
3 Participant + 异地 Observer 投票与提交多数派固定在低延迟机房 主机房失效后 Observer 不能接管 quorum

Observer 会接收事务并可接受客户端连接,但它不参加投票,也不能在主投票节点全部不可用时“升格”为灾备集群。远端客户端连接 Observer 可以降低部分读请求的访问距离;写请求仍要转向 Leader,而且普通读不能被当作跨服务器线性化读取。

选举和会话会放大 WAN 抖动

跨机房链路抖动不仅影响单次写延迟,还会影响 Leader 与 Follower 的心跳、同步和重新选举。网络分区把 2+1 拆开时,多数派一侧可以继续工作;若旧 Leader 落在少数派,另一侧会重新选举 Leader,少数派不能继续提供正常写服务,因此不会形成两个都能提交写入的集群。

tickTime、initLimit、syncLimit 和客户端会话超时决定“多慢算失联”。把这些值一味调大只能延迟故障判定,并不能消除 WAN 丢包与抖动。跨机房方案应先拿到稳定 RTT、抖动和丢包基线,再确认业务是否接受故障时更长的恢复窗口。

用 Observer 隔离远端读流量

当主要目标是让异地应用就近读取,而不是让异地机房参与多数派,优先让所有 Participant 留在同一低延迟故障域,再把远端节点设为 Observer。下面是角色声明的片段示例;每个实例仍需要正确的 myid,远端 Observer 还应以 Observer 身份启动。

text
tickTime=2000
initLimit=10
syncLimit=5

server.1=zk-a1.example.com:2888:3888:participant
server.2=zk-a2.example.com:2888:3888:participant
server.3=zk-a3.example.com:2888:3888:participant
server.4=zk-b1.example.com:2888:3888:observer

这段配置的生效行为是:server.1~server.3 参与 quorum,server.4 只同步事务而不投票。实际静态或动态成员配置文件位置会随发行版和部署方式不同,修改前应先确认当前集群是否启用了动态重配置。

在每个节点本机执行状态检查:

bash
bin/zkServer.sh status

预期输出的关键行在当前 Leader 上类似:

text
Mode: leader

其他投票节点应看到 Mode: follower,Observer 应看到 Mode: observer。如果远端机房本应只是 Observer,却显示为 leader 或 follower,说明它仍在投票集合中,应停止继续扩容或切流并先修正成员角色。

跨机房 ZooKeeper 没有“节点分散得越远越可靠”这一结论。只有当跨站点故障容忍价值高于额外写延迟、选举不确定性和运维复杂度时,才值得让 Participant 跨 WAN;否则应把投票多数派留在稳定低延迟域,把异地需求交给 Observer 或应用层灾备方案。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

跨机房部署边界

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通