Java / 系统课时

建立延迟与吞吐基线

建立延迟与吞吐基线

性能调优前先建立可重复的对照组。本课把请求速率、并发、数据集和运行时长固定下来,再同时记录吞吐、P95/P99、CPU、分配速率与 GC 时间占比,得到后续每次调参都能比较的基线。

学习目标

  • 固定压测请求模型与运行条件,避免把环境波动误判为优化收益。
  • 同时记录吞吐、尾延迟、CPU、对象分配和 GC 指标。
  • 用多轮结果判断基线是否稳定,并形成可复测的记录。

先固定会影响结果的条件

一条基线不是“跑一次压测得到几个数字”,而是一组带前提的测量结果。至少固定 JVM 版本与参数、机器规格、容器 CPU/内存限制、应用版本、数据规模、缓存状态、请求比例、目标请求速率、测试时长和预热方式。后续只改变一个待验证变量,其余条件尽量保持不变。

对 HTTP 服务,推荐把“固定到达率”作为主请求模型:例如持续 500 req/s,而不是只固定并发数。这样即使服务变慢,压力发生器也不会因为每个请求等待更久而自动降低发压速度,更容易暴露排队和尾延迟问题。

固定请求模型到性能基线的采集链路

用固定到达率生成请求

下面用 k6 的 constant-arrival-rate 固定 500 req/s,持续 2 分钟。示例假定服务存在 GET /api/orders/42,并通过环境变量传入地址;开始正式采样前,应先完成独立预热。

js
import http from 'k6/http';
import { check } from 'k6';

export const options = {
  scenarios: {
    baseline: {
      executor: 'constant-arrival-rate',
      rate: 500,
      timeUnit: '1s',
      duration: '2m',
      preAllocatedVUs: 64,
      maxVUs: 256,
    },
  },
};

export default function () {
  const baseUrl = __ENV.BASE_URL || 'http://127.0.0.1:8080';
  const res = http.get(`${baseUrl}/api/orders/42`);
  check(res, { 'status is 200': (r) => r.status === 200 });
}

运行时把端口替换成实际值:

bash
BASE_URL=http://127.0.0.1:<PORT> k6 run baseline.js

预期输出关注请求速率和尾延迟,实际数值会因机器与服务实现不同而变化:

text
http_req_duration ... p(95)=<VALUE>ms p(99)=<VALUE>ms
http_reqs .......... <VALUE> <VALUE>/s
checks ............. <VALUE>% <VALUE> out of <VALUE>

如果 dropped_iterations 明显大于 0,说明压测机或配置没有能力维持目标到达率;这时这轮结果不能直接作为服务性能基线,应先提高 preAllocatedVUs、检查压测机资源或降低目标速率。

同步记录 JVM 与 CPU 指标

压测窗口必须和 JVM 指标窗口对齐。吞吐和 P95/P99 由负载工具给出;CPU 记录进程或容器 CPU 使用率;对象分配速率记录每秒新分配字节数;GC 时间占比则明确口径后再比较。

如果应用已暴露 Micrometer Prometheus 指标,可用下面的查询作为片段示例。它依赖应用实际存在这些指标名,不能脱离监控系统单独运行:

text
rate(jvm_gc_memory_allocated_bytes_total{instance="<VALUE>"}[2m])

100 * sum(rate(jvm_gc_pause_seconds_sum{instance="<VALUE>"}[2m]))

100 * process_cpu_usage{instance="<VALUE>"}

其中 <VALUE> 替换为目标实例标签。第一行是近 2 分钟对象分配速率,单位为 byte/s;第二行汇总该实例不同 GC 标签后的暂停时间占比;第三行是进程 CPU 使用率。这里的 jvm_gc_pause_seconds_sum 只衡量暂停时间,不等于并发 GC 线程消耗的全部 CPU,因此记录表里应把指标名称写成“GC pause time %”,不要泛化成“GC 总成本”。

把结果写成可比较的基线

一次正式测试至少跑 3 轮,每轮使用相同预热、时长和请求模型。不要只保存平均值,尾延迟和资源消耗往往比平均响应时间更能解释 GC 调优是否有效。

指标 建议记录值 主要用途
吞吐 req/s 判断单位时间处理能力
P95 / P99 ms 观察尾部请求是否被停顿或排队放大
CPU % 区分“更快”是否只是消耗更多计算资源
分配速率 MB/s 或 GB/s 判断对象创建压力与年轻代回收需求
GC pause time % 判断请求时间有多少被暂停直接占用

同时保存 JDK 版本、GC 类型、完整 JVM 参数、应用提交版本、机器规格、测试数据版本和 k6 脚本。没有这些上下文,即使两组 P99 都精确到毫秒,也不具备可比性。

判断这条基线能不能用

先看三轮结果是否聚集。如果吞吐、P95/P99 或 CPU 在相同条件下大幅漂移,应先找环境噪声,例如 CPU 争用、后台任务、JIT 尚未稳定、缓存冷热不一致或数据库状态变化,而不是立刻开始改堆大小。

真正可用的基线应能回答一个具体问题:在同样的请求模型下,调优后是否以相同或更低 CPU 获得更高吞吐、更低 P99、更低分配速率或更少 GC 暂停。只有把负载条件和指标口径一起固定,后续的 JVM 参数变化才有可验证的因果意义。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

建立延迟与吞吐基线

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通