架构与系统设计 / 系统课时
估算流量规模与增长边界
估算流量规模与增长边界
架构设计前先把模糊的“用户很多、数据增长快”转换成数量级。通过峰值请求量、并发度、数据增量和增长率,可以提前判断单机余量、缓存需求、存储规模以及何时必须扩容。
学习目标
- 根据业务量和峰值系数估算平均 QPS 与峰值 QPS
- 用响应时间估算在途并发,并把请求规模转换为资源压力
- 根据数据增量和增长率推导容量边界与扩容时间点
先建立统一的量级基线
容量估算不是追求一个精确到个位数的答案,而是先回答系统处于百、千、万还是十万 QPS 的量级。输入至少应覆盖业务量、流量分布、响应时间、单次数据大小和预计增长率,否则后面的拓扑选择容易建立在错误前提上。
例如,一个订单查询服务预计每天处理 2000 万次请求。若直接除以 86400 秒,平均 QPS 约为 231,但真实流量通常集中在少数时段。假设业务分析给出的峰值系数为 8,则可以先得到约 1848 QPS 的峰值基线。
常用的第一轮估算关系是:,。其中 不是固定经验值,应优先来自历史监控、活动计划或相似系统;缺少数据时才使用区间假设,并把假设写进架构记录。
从峰值 QPS 推导并发压力
QPS 表示单位时间处理多少请求,并发度表示同一时刻有多少请求正在系统中。两者可以通过平均响应时间建立近似关系:,其中响应时间按秒计算。
以上述 1848 QPS 为例,如果目标平均响应时间为 0.12 秒,则在途请求约为 222 个。若活动期间峰值可能再放大 2 倍,则设计时需要观察约 3700 QPS、444 个并发请求附近的资源表现,而不能只按日均值规划线程池、连接池或下游连接数。
把请求量转换成数据与资源规模
请求规模只是入口。还要继续问每个请求会读取多少数据、写入多少数据、访问几次缓存或数据库,以及日志和消息会放大多少存储量。
假设系统每天新增 300 万条订单记录,每条业务记录连同索引、冗余字段和存储开销按 2 KB 估算,则每日新增约 6 GB,单年原始增量约 2.19 TB。如果数据库还保留一份副本,并额外为索引和运维预留 50% 空间,实际规划容量不能只看 2.19 TB。
容量估算时可以把关键量放在同一张表中,避免只盯着 QPS:
| 维度 | 当前或预测值 | 对架构的直接影响 |
|---|---|---|
| 峰值请求量 | 约 1848 QPS | 实例数、缓存和下游吞吐 |
| 峰值并发 | 约 222 | 线程、协程和连接池规模 |
| 每日数据增量 | 约 6 GB | 存储容量与归档策略 |
| 年增长率 | 80% | 扩容周期与拓扑演进 |
这些数值不要求一次算准,但必须保持口径一致,并清楚标明哪些来自监控,哪些来自业务预测,哪些只是安全余量。
用增长率确定设计边界
当前容量足够并不代表方案能够支撑下一阶段。若峰值 QPS 当前为 2000,预计每年增长 80%,则一年后约为 3600 QPS,两年后约为 6480 QPS。若单套部署经过压测只能稳定承载 5000 QPS,那么它的架构边界会在第二年之前被触及。
规划时应同时给出“目标负载”和“失效边界”。例如,设计目标可以写成“在 4000 QPS 下保持 p95 延迟小于 150 ms,并保留 30% 计算余量”;边界则写成“超过 5000 QPS 后数据库连接池和写入延迟开始快速恶化”。这样容量数字才能直接影响扩容、缓存、读写分离和分片等架构决策。
估算的价值不是证明未来一定会出现某个精确数字,而是尽早暴露数量级差异。只要输入、假设、安全余量和边界都被明确记录,后续压测就可以逐项替换估算值,让架构从假设逐步收敛到可验证的容量模型。