架构与系统设计 / 系统课时

流量翻十倍先改哪里

流量翻十倍先改哪里

当面试官把流量突然放大十倍,重点不是立刻回答“加机器”,而是证明你能先找到真正的饱和点,再按入口、服务、数据库、缓存和消息链路逐层扩容,避免把压力从一层简单转移到下一层。

学习目标

  • 建立流量突增后的瓶颈定位顺序,而不是凭经验盲目扩容。
  • 能根据 CPU、连接数、数据库等待、缓存命中率和队列积压选择改造点。
  • 能解释临时止血、容量扩展与长期架构调整之间的优先级。

先把“十倍流量”换成资源压力

十倍请求量不等于所有资源都需要扩十倍。先确认增长发生在读、写还是某个热点接口,并重新估算峰值 QPS、单请求 CPU 时间、数据库访问次数、缓存命中率和消息产出速率。只要这些量没有拆开,“扩容”就只是一个没有边界的答案。

在真实系统中,可以先从单个服务节点检查 CPU 与可用内存,确认应用是否已经接近计算或内存上限。下面命令适用于常见 Linux 环境。

bash
printf 'cpu_cores='
nproc
free -m | awk 'NR==2 {print "memory_used_mb="$3", memory_available_mb="$7}'

预期输出

text
cpu_cores=<N>
memory_used_mb=<USED_MB>, memory_available_mb=<AVAILABLE_MB>

其中 <N>、<USED_MB> 和 <AVAILABLE_MB> 会随机器变化。这个检查只能说明节点资源状态,仍要结合请求延迟、吞吐和下游等待判断瓶颈。

按请求链路逐层找饱和点

最稳妥的回答顺序是从用户请求进入系统的位置向下游追踪,而不是直接跳到数据库。每一层都回答两个问题:当前是否饱和,扩这一层后下一层能否承受。

  1. 入口层先看负载均衡、连接数、TLS 终止能力、限流与带宽。如果入口已经丢请求,后端扩容不会生效。
  2. 服务层看 CPU、内存、线程池或事件循环、连接池和 P95/P99 延迟。无状态服务通常优先水平扩容,但要确认会话、定时任务和本地缓存不会阻碍扩容。
  3. 数据库看连接数、慢查询、锁等待、磁盘 IOPS、读写比例和复制延迟。读压力可先考虑索引、缓存和读副本;写压力则要关注热点行、事务冲突和单主容量。
  4. 缓存看命中率、热 Key、内存、网络带宽和回源比例。缓存容量扩大但命中率不升,往往不能真正减少数据库压力。
  5. 消息链路看生产速率、消费速率、分区并行度和积压量。入口扩容后,如果消费者吞吐不变,延迟会转化为持续积压。

十倍流量下的瓶颈定位链路

先止血,再扩大稳定容量

面试中可以把动作分成三个时间尺度。分钟级先保护系统,例如限流、关闭非核心功能、缩短超时并避免无界重试;小时级扩无状态服务、提高缓存容量、增加消费者并行度;更长期再做 SQL 优化、读写分离、分区或服务拆分。

用验证结果决定下一步

每次改动都要重新观察吞吐、错误率和尾延迟。假设入口 QPS 已能提升,但 P99 仍持续上升,就继续检查应用等待和数据库耗时;如果数据库稳定而队列积压持续增长,则瓶颈已经转移到消费者。

一个完整回答应形成闭环:先量化新增负载,再沿调用链找第一个饱和点,做最小改动缓解,再验证瓶颈是否迁移。这样即使约束继续变化,也能说明下一步为什么改这里,而不是背固定架构。

按自己的节奏,确认真正理解。

目录与阅读设置

记录一个想法

流量翻十倍先改哪里

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通