架构与系统设计 / 系统课时
用压测找到系统性能拐点
用压测找到系统性能拐点
压测的目标不是把 QPS 推到最大,而是找出吞吐不再线性增长、延迟和错误率开始恶化的临界区,并据此给出可长期运行的安全负载。下面用递增负载加稳态验证,形成可复现的判断方法。
学习目标
- 设计递增负载与稳态压测,避免只看单一峰值
- 联合吞吐、尾延迟和错误率识别性能拐点
- 根据拐点和容量余量划定生产安全运行区间
先定义压测问题
先固定你要回答的问题:在当前版本、固定数据规模和固定资源配额下,订单写入接口能稳定承受多少负载。测试期间不要同时改代码、扩容或切换数据库参数,否则曲线变化无法归因。
至少记录三类指标:吞吐量用于观察系统是否继续产出有效工作;p95、p99 延迟用于发现排队和尾部抖动;错误率用于判断超时、限流或依赖失败是否已经出现。CPU、线程池、连接池和数据库等待等资源指标用于解释拐点原因,但不能替代端到端结果。
设计递增负载和稳态阶段
可以先用阶梯式递增负载寻找大致拐点,再在拐点下方选择候选负载做更长时间的稳态压测。下面示例使用 k6,对本地订单接口从 10 个虚拟用户逐步升到 80 个,再回落。运行前确保 http://127.0.0.1:8080/orders 是专用测试环境中的可写接口。
import http from 'k6/http';
import { check, sleep } from 'k6';
export const options = {
stages: [
{ duration: '20s', target: 10 },
{ duration: '20s', target: 20 },
{ duration: '20s', target: 40 },
{ duration: '20s', target: 80 },
{ duration: '10s', target: 0 },
],
thresholds: {
http_req_failed: ['rate<0.02'],
http_req_duration: ['p(95)<800'],
},
};
export default function () {
const payload = JSON.stringify({ sku: 'sku-1', quantity: 1 });
const params = { headers: { 'Content-Type': 'application/json' } };
const response = http.post('http://127.0.0.1:8080/orders', payload, params);
check(response, {
'status is 2xx': (r) => r.status >= 200 && r.status < 300,
});
sleep(0.2);
}保存为 load-test.js 后执行 k6 run load-test.js。
预期输出会包含下列关键指标,实际数值会随机器、数据和服务实现变化:
http_req_duration..............: avg=<TIME> p(95)=<TIME> p(99)=<TIME>
http_req_failed................: <VALUE>%
http_reqs......................: <VALUE> <VALUE>/s
checks.........................: <VALUE>%若阈值被突破,k6 会以失败状态结束;这正适合把“延迟或错误率已经不可接受”变成自动化判据。
识别性能拐点
拐点通常不是某一个瞬间,而是一段从“近似线性扩展”进入“排队放大”的区间。典型信号是负载继续上升,但吞吐增幅明显变小,同时 p95、p99 快速抬升;再继续加压后,错误率开始上升。

不要用“CPU 到 100%”单独定义拐点。系统可能先被数据库连接池、锁等待、下游超时或队列积压限制;也可能 CPU 很高但吞吐仍线性增长。最终判定要回到用户可观察的吞吐、尾延迟和错误率。
划定安全运行区间
确定拐点后,不要把生产目标直接设在临界值上。应从拐点向左保留容量余量,并用稳态压测确认这一负载能持续运行。例如拐点约为 1000 QPS,可以先把 700~800 QPS 作为候选区间,再运行 30~60 分钟,确认尾延迟、错误率、队列长度和资源占用没有持续恶化。
安全区间必须和测试前提一起记录:版本、实例数、CPU/内存配额、数据库规格、数据量、请求模型和依赖状态。只保存一个“最大 QPS”数字,下一次架构评审时几乎无法复用。
避免把噪声当成拐点
若每轮结果差异很大,先检查压测机是否成为瓶颈、测试数据是否命中缓存、连接是否复用、下游是否限流,以及 GC 或数据库后台任务是否刚好发生。相同负载至少重复多轮,再用一致的指标窗口比较。
最终交付物应是“曲线 + 拐点区间 + 稳态证据 + 安全运行区间 + 测试前提”,而不是单一的峰值成绩。这样压测结果才能真正进入容量规划和生产架构决策。