架构与系统设计 / 系统课时
带宽估算决定什么
带宽估算决定什么
系统设计面试里,QPS 只是请求数量,真正决定网络压力的是“每秒有多少字节进出系统”。把请求体、响应体、QPS 和峰值系数放到同一套计算中,就能判断入口、出口、网关和跨机房链路是否可能成为瓶颈。
学习目标
- 根据 QPS 与消息体积估算入口和出口带宽
- 用峰值系数把平均流量转换为容量规划值
- 从带宽结果识别网关、服务和跨网络链路的潜在瓶颈
从每秒请求数换算为带宽
网络带宽首先取决于两个量:每秒处理多少请求,以及每个请求实际传输多少数据。请求与响应通常大小不同,因此入口和出口必须分开估算。
假设平均 QPS 为 ,平均请求体为 字节,平均响应体为 字节,则:
这里得到的是 bit/s。换算成 Mb/s 或 Gb/s 后,更容易与网卡、负载均衡器和云网络规格比较。
例如一个接口平均 5000 QPS,请求约 2 KiB,响应约 40 KiB。忽略协议额外开销时,入口约为 82 Mb/s,出口约为 1.64 Gb/s。即使请求数量完全相同,较大的响应体仍会让出口网络先成为主要压力点。
平均值不能直接拿来配容量
真实流量通常存在明显峰谷。若平均 QPS 为 5000,而业务高峰可能达到平均值的 2.5 倍,则应该用峰值系数 修正:
继续前面的例子,峰值入口约 205 Mb/s,峰值出口约 4.10 Gb/s。这已经不是一条普通 1 Gb/s 链路能够承载的量级。
容量规划还需要保留安全余量。例如希望链路在高峰时最多使用约 60%,可以进一步估算:
这里的 60% 是容量规划假设,不是网络协议限制。面试时只要说明“为突发流量、重传和估算误差预留余量”即可。
带宽数字要对应具体链路
同一个系统里并不存在唯一的“系统带宽”。至少要区分客户端入口、客户端出口以及服务之间的内部流量。
| 链路 | 主要由什么决定 | 常见风险 |
|---|---|---|
| 客户端到入口 | 请求体积 × QPS | 上传、批量写入使入口增大 |
| 入口到客户端 | 响应体积 × QPS | 图片、列表、大 JSON 使出口增大 |
| 服务到缓存或数据库 | 每次请求触发的内部读写量 | 一次外部请求可能放大成多次内部访问 |
| 跨可用区或跨机房 | 副本同步、调用量、消息流量 | 带宽成本和延迟同时上升 |
因此,估算出 4 Gb/s 出口后,不能只说“服务器需要更大网卡”。还应继续问:流量是否全部经过同一个负载均衡器,静态内容能否由 CDN 承担,响应是否可以压缩,服务实例之间是否会再次复制这些数据。
面试中怎样快速完成估算
可以固定使用一条简短计算路径:先写平均 QPS,再写平均请求与响应体积,分别计算入口和出口;随后乘峰值系数,并说明预留容量余量。最后把最大的那个数字与系统里的实际网络边界对应起来。
例如得到“峰值出口约 4 Gb/s”后,一个完整结论应当是:出口流量明显高于入口,设计时要重点检查负载均衡、服务集群总出口和静态内容分发能力,而不是只围绕请求处理 QPS 做扩容。
带宽估算的价值不在于算到小数点后几位,而在于把“流量很大”变成可比较的数量级,并据此找到最可能先触顶的网络链路。