服务注册与分布式协调 / 系统课时
为投票成员选择合理规模
为投票成员选择合理规模
ZooKeeper 的投票成员不是越多越安全。规模增加确实能提高可容忍的成员故障数,但每次写入也要让更多服务器参与复制与确认。本课用 3、5、7 个成员比较可用性、写入成本和维护空间,建立一套可以直接用于容量决策的选择方法。
学习目标
- 计算不同奇数规模集群的多数派和故障容忍能力
- 理解成员增加为什么会带来额外复制、网络和写入确认成本
- 根据故障域、维护窗口和写入延迟选择目标规模
多数派决定真正的故障容忍能力
ZooKeeper 的写入依赖多数投票成员形成 quorum。对于 个投票成员,多数派数量为 ,能够同时容忍的成员故障数为 。
因此,3 个成员需要至少 2 个在线,可容忍 1 个故障;5 个成员需要至少 3 个在线,可容忍 2 个故障;7 个成员需要至少 4 个在线,可容忍 3 个故障。
| 投票成员数 | 多数派数量 | 可容忍同时故障数 | 一个成员维护时剩余额外故障空间 |
|---|---|---|---|
| 3 | 2 | 1 | 0 |
| 5 | 3 | 2 | 1 |
| 7 | 4 | 3 | 2 |
表中最后一列很重要。3 节点集群停掉 1 台维护后虽然仍然能工作,但这时再坏 1 台就会失去多数派;5 节点集群在单节点维护期间仍能再承受 1 个节点故障,因此更适合经常进行滚动维护的生产环境。
为什么通常选择奇数个投票成员
增加一个服务器只有在它提高多数派故障容忍能力时,才真正增加了投票层面的高可用。例如 3 个成员和 4 个成员都只能容忍 1 个成员同时故障;5 个和 6 个成员都只能容忍 2 个。
偶数规模却仍然增加复制目标、连接、心跳和运维对象,所以稳定目标通常选择 3、5、7 这样的奇数规模。动态扩缩容过程中可能短暂经过其他成员数量,但规划最终拓扑时应优先落到能够有效提升故障容忍能力的奇数规模。
成员越多写入路径越重
ZooKeeper 写入由 Leader 发起协议流程,并等待足够多投票成员确认后才能形成提交条件。成员增加后,Leader 需要维护更多复制和通信对象,多数派确认数量也会从 2、3 增长到 4。
这不意味着 7 节点写入延迟一定是 3 节点的固定倍数,因为提交速度主要取决于达到多数派所需的响应,而不是等待所有成员。但在网络已经紧张、磁盘同步较慢或跨故障域 RTT 较高时,更多成员会增加系统负担,并扩大慢节点和网络抖动影响协议运行的机会。
所以规模决策不能只比较“最多能坏几台”,还必须同时观察写入 p95/p99 延迟、Leader CPU、磁盘同步能力和成员之间网络 RTT。
从故障域和维护窗口反推规模
选择规模时,先定义系统必须承受的真实故障,而不是先决定要部署多少台服务器。
如果系统只有三个独立故障域,维护频率较低,并且业务可以接受维护期间暂时失去额外冗余,3 个投票成员通常已经足够。三个成员应尽量落在不同故障域,避免三台机器实际依赖同一机架、交换机或宿主机。
如果要求“任意一台正在维护时,仍能再坏一台而保持 quorum”,目标至少应为 5 个投票成员。这个规模通常在容错能力和协议成本之间取得较好的平衡,也是高可用生产集群常见的上限选择之一。
7 个成员适合确实需要同时承受更多故障、拥有足够独立故障域,并且已经通过压测确认写入链路仍满足延迟目标的场景。如果只是因为服务器数量充足而从 5 增加到 7,通常无法证明这笔额外协议和运维成本是必要的。
用决策顺序避免过度扩容
实际规划可以按固定顺序做判断。先写清楚在正常期和维护期最多允许同时失去多少个投票成员,再计算所需的最小奇数规模;随后检查这些成员是否真的分布在独立故障域;最后通过压测验证增加成员后的写入延迟和 Leader 资源消耗。
如果 3 个成员已经满足故障目标,就没有必要为了“数字更大”直接扩到 5;如果单节点维护期间仍必须承受另一个节点故障,则 3 个成员又明显不足,应优先考虑 5 个。只有业务确实要求第三层同时故障容忍,并且基础设施能提供足够独立的故障域时,才应认真考虑 7 个投票成员。
ZooKeeper 投票规模的核心不是追求最多节点,而是用最少的投票成员满足明确的故障模型,并为维护留出足够余量,同时把写入协议和运维复杂度控制在可以验证的范围内。