架构与系统设计 / 系统课时

用容量模型规划峰值冗余

用容量模型规划峰值冗余

本节把“感觉需要多几台机器”改造成可计算的容量决策。你会用单实例稳定能力、目标峰值、增长率、安全系数和故障冗余求出实例数,并得到一个可监控的扩容触发点。

学习目标

  • 把容量规划中的峰值、单机能力、增长和冗余转成明确变量
  • 计算目标实例数与扩容触发流量
  • 识别模型中最容易失真的测量值并建立复核方法

把容量问题写成变量

先定义五个量:当前峰值吞吐为 P0P_0,规划周期增长率为 gg,周期数为 nn,单实例稳定吞吐为 CC,安全系数为 ss。其中 CC 必须来自满足目标延迟和错误率时的压测结果,不能使用“CPU 跑满时的极限 QPS”。

还要定义可同时失效的实例数 ff。例如要求任意一台应用实例故障后仍能扛住峰值,就取 f=1f=1。这种写法比笼统的“预留 30%”更容易解释:安全系数处理预测误差和抖动,ff 处理明确的节点故障。

建立可校验的计算式

先预测规划期末的业务峰值:

P=P0(1+g)nP=P_0(1+g)^n

再加入安全余量:

Pdesign=P×sP_{design}=P\times s

为了在同时失去 ff 台实例后仍满足设计峰值,实例数应满足:

N=⌈PdesignC⌉+fN=\left\lceil\frac{P_{design}}{C}\right\rceil+f

如果当前集群有 NN 台实例,保留故障冗余后可用于业务峰值的原始流量触发点为:

Ptrigger=(N−f)CsP_{trigger}=\frac{(N-f)C}{s}

这四个式子只在同一口径下才有意义。例如峰值若按 5 分钟平均值测量,单机能力也应使用相近时间窗口;否则一个是瞬时尖峰、一个是长期平均,计算结果会产生假精度。

运行一个容量计算器

下面的 Python 程序使用同一组公式计算实例数和触发点。示例假设当前峰值为 4000 req/s,未来一个周期增长 25%,单实例稳定能力为 800 req/s,安全系数 1.2,并要求容忍同时失去 1 台实例。

python
from math import ceil

def plan_capacity(current_peak, growth_rate, periods, per_instance, safety_factor, failed_instances):
    projected_peak = current_peak * (1 + growth_rate) ** periods
    design_peak = projected_peak * safety_factor
    required_instances = ceil(design_peak / per_instance) + failed_instances
    trigger_peak = (required_instances - failed_instances) * per_instance / safety_factor
    return projected_peak, design_peak, required_instances, trigger_peak

if __name__ == "__main__":
    projected, design, instances, trigger = plan_capacity(
        current_peak=4000,
        growth_rate=0.25,
        periods=1,
        per_instance=800,
        safety_factor=1.2,
        failed_instances=1,
    )
    print(f"projected_peak={projected:.2f} req/s")
    print(f"design_peak={design:.2f} req/s")
    print(f"required_instances={instances}")
    print(f"expansion_trigger={trigger:.2f} req/s")

预期输出:

text
projected_peak=5000.00 req/s
design_peak=6000.00 req/s
required_instances=9
expansion_trigger=5333.33 req/s

结果表示:规划期末预计峰值是 5000 req/s,加入 20% 安全系数后按 6000 req/s 设计;部署 9 台后,即使失去 1 台,剩余 8 台仍有 6400 req/s 的稳定能力。约 5333 req/s 是保留同等安全系数时的扩容触发参考值。

把触发点接入运行决策

不要等到业务流量真正撞上理论上限才扩容。自动扩缩容通常需要同时观察吞吐、CPU、队列长度和尾延迟,并设置持续时间,避免一次短尖峰造成频繁抖动。若实例启动需要 5 分钟,而流量能在 2 分钟内翻倍,单靠实时扩容来不及,必须提前预热或保留更多静态冗余。

触发条件也应区分“预测扩容”和“故障保护”。预测扩容根据活动日历、增长趋势和历史峰值提前加实例;故障保护则确保少量节点失效时仍有足够容量。把二者混在一个百分比里,会让团队无法回答冗余到底在防什么。

模型失效时如何修正

容量模型最常见的错误不是公式,而是输入。若单机压测没有覆盖真实依赖延迟、连接池上限、缓存命中率和数据规模,CC 会被高估;若只看平均 QPS,P0P_0 会低估短时尖峰;若把所有服务都按同一增长率外推,又会忽略热点接口先达到瓶颈。

因此每次重要版本、依赖升级或流量结构变化后,都应重新测量 CC,并用生产峰值回放校验模型。容量规划的目标不是算出一个永远正确的数字,而是让“为什么现在是 9 台、什么时候要加第 10 台、坏 1 台是否还能扛住”都有可复算的答案。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

用容量模型规划峰值冗余

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通