API 设计 / 系统课时

用压测建立容量与回归门槛

用压测建立容量与回归门槛

本课把“接口感觉够快”变成可重复验证的容量结论:用接近真实业务的 GraphQL 操作分布施压,持续观察延迟、吞吐、错误率与资源饱和度,并把结果固化为发布前可执行的性能回归门槛。

学习目标

  • 设计包含多种 GraphQL 操作权重的真实负载模型
  • 用 k6 采集吞吐、P95/P99 延迟和失败率,并关联服务端资源指标
  • 根据压测结果确定容量上限与发布门槛,避免只看平均延迟

先定义可回答的问题

压测不是“把并发调大直到服务挂掉”。开始前应明确要回答什么,例如:当前版本在 200 RPS 下是否仍满足 P95 小于 300 ms;单实例在 CPU 70% 前能稳定承载多少请求;新版本是否让某个查询的尾延迟明显恶化。

GraphQL 还要避免只压一个查询。真实流量通常由轻查询、重查询和写操作混合构成,不同字段会命中不同 Resolver、缓存和下游数据源。若生产流量大致是 70% 商品列表、20% 商品详情、10% 更新收藏,压测脚本也应保持近似分布。

真实操作分布到容量门槛的压测闭环

用 k6 构造操作分布

下面示例假设测试地址通过环境变量 GRAPHQL_URL 传入。脚本按随机数选择三类操作,并通过 operationName 让服务端日志和 APM 更容易聚合。

js
import http from 'k6/http';
import { check } from 'k6';
import { Rate } from 'k6/metrics';

const graphqlErrors = new Rate('graphql_errors');

export const options = {
  scenarios: {
    graphql_mix: {
      executor: 'constant-arrival-rate',
      rate: 100,
      timeUnit: '1s',
      duration: '2m',
      preAllocatedVUs: 50,
      maxVUs: 200,
    },
  },
  thresholds: {
    http_req_failed: ['rate<0.01'],
    graphql_errors: ['rate<0.01'],
    http_req_duration: ['p(95)<300', 'p(99)<600'],
  },
};

const url = __ENV.GRAPHQL_URL || 'http://127.0.0.1:4000/graphql';
const headers = { 'Content-Type': 'application/json' };

const operations = {
  list: {
    operationName: 'ProductList',
    query: 'query ProductList { products(limit: 20) { id name price } }',
  },
  detail: {
    operationName: 'ProductDetail',
    query: 'query ProductDetail($id: ID!) { product(id: $id) { id name price stock } }',
    variables: { id: 'p-1001' },
  },
  favorite: {
    operationName: 'FavoriteProduct',
    query: 'mutation FavoriteProduct($id: ID!) { favoriteProduct(id: $id) { id favorited } }',
    variables: { id: 'p-1001' },
  },
};

export default function () {
  const r = Math.random();
  const op = r < 0.70 ? operations.list : r < 0.90 ? operations.detail : operations.favorite;

  const response = http.post(url, JSON.stringify(op), { headers });

  let hasGraphQLErrors = true;
  try {
    hasGraphQLErrors = Boolean(JSON.parse(response.body).errors);
  } catch {
    hasGraphQLErrors = true;
  }
  graphqlErrors.add(hasGraphQLErrors);

  check(response, {
    'HTTP 200': (res) => res.status === 200,
    'GraphQL 无 errors': () => !hasGraphQLErrors,
  });
}

执行压测:

bash
GRAPHQL_URL=http://127.0.0.1:4000/graphql k6 run loadtest.js

预期输出会包含类似以下摘要,具体数值会随机器、数据量和服务版本变化:

text
checks.........................: 99.95%
http_req_failed................: 0.05%
graphql_errors.................: 0.08%
http_req_duration..............: p(95)=245ms p(99)=410ms
http_reqs......................: 12000  100.0/s

这里的 HTTP 200 不能替代 graphql_errors 检查,因为 GraphQL 请求即使业务执行失败,也可能返回 HTTP 200 并在响应体中携带 errors。

找到容量拐点而不是单次成绩

建立容量曲线时,应逐级提高到达率,例如 50、100、150、200 RPS,并让每一级持续足够长,使缓存、连接池和运行时进入稳定状态。每一级至少记录 P95/P99、错误率、实际吞吐,以及 CPU、内存、事件循环延迟、数据库连接池等待等资源指标。

当请求率继续上升但完成吞吐不再线性增长,同时 P99、错误率或连接池等待快速恶化时,就进入了饱和区。容量上限不应直接取“最后还能跑的一档”,而应保留安全余量,例如把长期运行目标放在拐点前 60%~70% 的资源区间。

把结果固化为回归门槛

发布门槛应选稳定且能自动判断的指标。常见组合是:固定场景下 http_req_failed < 1%、P95 小于目标值、P99 不超过更宽松的上限,同时关键资源不进入持续饱和。资源门槛应来自监控系统,而不是只依赖 k6 客户端结果。

门槛还要设置可比前提:相同数据规模、相同机器规格、相同缓存预热策略、相同脚本版本。若环境差异太大,绝对延迟会失去可比性,此时至少比较同环境基线与候选版本的相对变化。

一次合格的容量测试最终应给出三个结论:稳定承载区间、饱和拐点、发布回归阈值。这样压测结果才能从一次性报告变成持续性能治理的一部分。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

用压测建立容量与回归门槛

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通