API 设计 / 系统课时
用压测建立容量与回归门槛
用压测建立容量与回归门槛
本课把“接口感觉够快”变成可重复验证的容量结论:用接近真实业务的 GraphQL 操作分布施压,持续观察延迟、吞吐、错误率与资源饱和度,并把结果固化为发布前可执行的性能回归门槛。
学习目标
- 设计包含多种 GraphQL 操作权重的真实负载模型
- 用 k6 采集吞吐、P95/P99 延迟和失败率,并关联服务端资源指标
- 根据压测结果确定容量上限与发布门槛,避免只看平均延迟
先定义可回答的问题
压测不是“把并发调大直到服务挂掉”。开始前应明确要回答什么,例如:当前版本在 200 RPS 下是否仍满足 P95 小于 300 ms;单实例在 CPU 70% 前能稳定承载多少请求;新版本是否让某个查询的尾延迟明显恶化。
GraphQL 还要避免只压一个查询。真实流量通常由轻查询、重查询和写操作混合构成,不同字段会命中不同 Resolver、缓存和下游数据源。若生产流量大致是 70% 商品列表、20% 商品详情、10% 更新收藏,压测脚本也应保持近似分布。

用 k6 构造操作分布
下面示例假设测试地址通过环境变量 GRAPHQL_URL 传入。脚本按随机数选择三类操作,并通过 operationName 让服务端日志和 APM 更容易聚合。
import http from 'k6/http';
import { check } from 'k6';
import { Rate } from 'k6/metrics';
const graphqlErrors = new Rate('graphql_errors');
export const options = {
scenarios: {
graphql_mix: {
executor: 'constant-arrival-rate',
rate: 100,
timeUnit: '1s',
duration: '2m',
preAllocatedVUs: 50,
maxVUs: 200,
},
},
thresholds: {
http_req_failed: ['rate<0.01'],
graphql_errors: ['rate<0.01'],
http_req_duration: ['p(95)<300', 'p(99)<600'],
},
};
const url = __ENV.GRAPHQL_URL || 'http://127.0.0.1:4000/graphql';
const headers = { 'Content-Type': 'application/json' };
const operations = {
list: {
operationName: 'ProductList',
query: 'query ProductList { products(limit: 20) { id name price } }',
},
detail: {
operationName: 'ProductDetail',
query: 'query ProductDetail($id: ID!) { product(id: $id) { id name price stock } }',
variables: { id: 'p-1001' },
},
favorite: {
operationName: 'FavoriteProduct',
query: 'mutation FavoriteProduct($id: ID!) { favoriteProduct(id: $id) { id favorited } }',
variables: { id: 'p-1001' },
},
};
export default function () {
const r = Math.random();
const op = r < 0.70 ? operations.list : r < 0.90 ? operations.detail : operations.favorite;
const response = http.post(url, JSON.stringify(op), { headers });
let hasGraphQLErrors = true;
try {
hasGraphQLErrors = Boolean(JSON.parse(response.body).errors);
} catch {
hasGraphQLErrors = true;
}
graphqlErrors.add(hasGraphQLErrors);
check(response, {
'HTTP 200': (res) => res.status === 200,
'GraphQL 无 errors': () => !hasGraphQLErrors,
});
}执行压测:
GRAPHQL_URL=http://127.0.0.1:4000/graphql k6 run loadtest.js预期输出会包含类似以下摘要,具体数值会随机器、数据量和服务版本变化:
checks.........................: 99.95%
http_req_failed................: 0.05%
graphql_errors.................: 0.08%
http_req_duration..............: p(95)=245ms p(99)=410ms
http_reqs......................: 12000 100.0/s这里的 HTTP 200 不能替代 graphql_errors 检查,因为 GraphQL 请求即使业务执行失败,也可能返回 HTTP 200 并在响应体中携带 errors。
找到容量拐点而不是单次成绩
建立容量曲线时,应逐级提高到达率,例如 50、100、150、200 RPS,并让每一级持续足够长,使缓存、连接池和运行时进入稳定状态。每一级至少记录 P95/P99、错误率、实际吞吐,以及 CPU、内存、事件循环延迟、数据库连接池等待等资源指标。
当请求率继续上升但完成吞吐不再线性增长,同时 P99、错误率或连接池等待快速恶化时,就进入了饱和区。容量上限不应直接取“最后还能跑的一档”,而应保留安全余量,例如把长期运行目标放在拐点前 60%~70% 的资源区间。
把结果固化为回归门槛
发布门槛应选稳定且能自动判断的指标。常见组合是:固定场景下 http_req_failed < 1%、P95 小于目标值、P99 不超过更宽松的上限,同时关键资源不进入持续饱和。资源门槛应来自监控系统,而不是只依赖 k6 客户端结果。
门槛还要设置可比前提:相同数据规模、相同机器规格、相同缓存预热策略、相同脚本版本。若环境差异太大,绝对延迟会失去可比性,此时至少比较同环境基线与候选版本的相对变化。
一次合格的容量测试最终应给出三个结论:稳定承载区间、饱和拐点、发布回归阈值。这样压测结果才能从一次性报告变成持续性能治理的一部分。