架构与系统设计 / 系统课时
用容量模型规划峰值冗余
用容量模型规划峰值冗余
本节把“感觉需要多几台机器”改造成可计算的容量决策。你会用单实例稳定能力、目标峰值、增长率、安全系数和故障冗余求出实例数,并得到一个可监控的扩容触发点。
学习目标
- 把容量规划中的峰值、单机能力、增长和冗余转成明确变量
- 计算目标实例数与扩容触发流量
- 识别模型中最容易失真的测量值并建立复核方法
把容量问题写成变量
先定义五个量:当前峰值吞吐为 ,规划周期增长率为 ,周期数为 ,单实例稳定吞吐为 ,安全系数为 。其中 必须来自满足目标延迟和错误率时的压测结果,不能使用“CPU 跑满时的极限 QPS”。
还要定义可同时失效的实例数 。例如要求任意一台应用实例故障后仍能扛住峰值,就取 。这种写法比笼统的“预留 30%”更容易解释:安全系数处理预测误差和抖动, 处理明确的节点故障。
建立可校验的计算式
先预测规划期末的业务峰值:
再加入安全余量:
为了在同时失去 台实例后仍满足设计峰值,实例数应满足:
如果当前集群有 台实例,保留故障冗余后可用于业务峰值的原始流量触发点为:
这四个式子只在同一口径下才有意义。例如峰值若按 5 分钟平均值测量,单机能力也应使用相近时间窗口;否则一个是瞬时尖峰、一个是长期平均,计算结果会产生假精度。
运行一个容量计算器
下面的 Python 程序使用同一组公式计算实例数和触发点。示例假设当前峰值为 4000 req/s,未来一个周期增长 25%,单实例稳定能力为 800 req/s,安全系数 1.2,并要求容忍同时失去 1 台实例。
from math import ceil
def plan_capacity(current_peak, growth_rate, periods, per_instance, safety_factor, failed_instances):
projected_peak = current_peak * (1 + growth_rate) ** periods
design_peak = projected_peak * safety_factor
required_instances = ceil(design_peak / per_instance) + failed_instances
trigger_peak = (required_instances - failed_instances) * per_instance / safety_factor
return projected_peak, design_peak, required_instances, trigger_peak
if __name__ == "__main__":
projected, design, instances, trigger = plan_capacity(
current_peak=4000,
growth_rate=0.25,
periods=1,
per_instance=800,
safety_factor=1.2,
failed_instances=1,
)
print(f"projected_peak={projected:.2f} req/s")
print(f"design_peak={design:.2f} req/s")
print(f"required_instances={instances}")
print(f"expansion_trigger={trigger:.2f} req/s")预期输出:
projected_peak=5000.00 req/s
design_peak=6000.00 req/s
required_instances=9
expansion_trigger=5333.33 req/s结果表示:规划期末预计峰值是 5000 req/s,加入 20% 安全系数后按 6000 req/s 设计;部署 9 台后,即使失去 1 台,剩余 8 台仍有 6400 req/s 的稳定能力。约 5333 req/s 是保留同等安全系数时的扩容触发参考值。
把触发点接入运行决策
不要等到业务流量真正撞上理论上限才扩容。自动扩缩容通常需要同时观察吞吐、CPU、队列长度和尾延迟,并设置持续时间,避免一次短尖峰造成频繁抖动。若实例启动需要 5 分钟,而流量能在 2 分钟内翻倍,单靠实时扩容来不及,必须提前预热或保留更多静态冗余。
触发条件也应区分“预测扩容”和“故障保护”。预测扩容根据活动日历、增长趋势和历史峰值提前加实例;故障保护则确保少量节点失效时仍有足够容量。把二者混在一个百分比里,会让团队无法回答冗余到底在防什么。
模型失效时如何修正
容量模型最常见的错误不是公式,而是输入。若单机压测没有覆盖真实依赖延迟、连接池上限、缓存命中率和数据规模, 会被高估;若只看平均 QPS, 会低估短时尖峰;若把所有服务都按同一增长率外推,又会忽略热点接口先达到瓶颈。
因此每次重要版本、依赖升级或流量结构变化后,都应重新测量 ,并用生产峰值回放校验模型。容量规划的目标不是算出一个永远正确的数字,而是让“为什么现在是 9 台、什么时候要加第 10 台、坏 1 台是否还能扛住”都有可复算的答案。