Java / 系统课时

选择吞吐优先或低延迟方案

选择吞吐优先或低延迟方案

GC 选型不是比较“哪个收集器更先进”,而是把延迟 SLO、堆规模、CPU 余量、对象分配速率和吞吐预算放到同一张约束表里。本课给出 G1 与 ZGC 的实际决策顺序,并说明如何用同一负载验证选择是否成立。

学习目标

  • 能把业务延迟目标转换成 GC 选型约束
  • 能解释 G1 与 ZGC 在停顿、CPU、内存余量和吞吐上的主要取舍
  • 能用同一负载做 A/B 验证,而不是只凭收集器名称做决定

先把 SLO 换成可测的约束

先确定业务真正不能接受什么。不要只写“低延迟”,而要给出可验证的边界,例如请求 p99.9 延迟、允许的单次 GC 停顿上限、峰值 CPU、最大堆和最低吞吐。GC 只占端到端延迟的一部分,因此最终验收必须同时看应用延迟和 GC 日志。

选型时优先收集五类数据:稳定期 live set、峰值分配速率、最大堆、CPU 利用率与余量、GC 停顿分位数。若 live set 已逼近 -Xmx,任何收集器都会缺少回收余量,此时先扩容或降低内存占用,比直接换收集器更重要。

G1 与 ZGC 的代价模型

G1 通过 Region 化、并行复制和并发标记,把大堆回收拆成多次较短的停顿,并以暂停目标控制每次 Collection Set 的工作量。它适合希望在吞吐与可预测停顿之间取得平衡的服务,但暂停目标是调节目标,不是实时系统式的硬保证。

ZGC 把标记、重定位等高成本工作尽量并发执行,应用线程的停顿主要集中在很短的协调阶段,因此更适合严格的尾延迟目标和大堆。代价是并发 GC 工作会持续占用 CPU,并需要足够堆余量承接应用在回收期间继续产生的分配。

约束 更偏向 G1 更偏向 ZGC
延迟目标 停顿预算相对宽松,实测可满足 SLO 对极低 GC 停顿和尾延迟更敏感
CPU 预算 CPU 较紧,希望减少持续并发回收占用 有稳定 CPU 余量,可接受并发 GC 开销
堆规模 中大型堆,停顿目标仍可通过实测满足 大堆且尾延迟随堆扩大仍必须稳定
分配速率 峰值可控,回收能及时跟上 高分配率但能提供足够 CPU 与堆 headroom
吞吐损失 更敏感 可以为低停顿让出一部分吞吐

用决策顺序缩小范围

先看延迟 SLO。如果业务明确要求极低 GC 停顿,且历史上 G1 的长尾暂停已经触碰 SLO,优先把 ZGC 放进候选;如果停顿预算相对宽松,而吞吐和 CPU 成本更重要,先从 G1 建立基线。

再看资源余量。ZGC 依靠并发回收,需要 CPU 和空闲堆空间跟上分配速度;若容器 CPU 长期接近上限,或堆几乎没有 headroom,换成 ZGC 不能自动消除问题。G1 同样需要回收余量,但它更常通过调整暂停目标、堆大小和应用分配行为来寻找平衡点。

最后看业务能否接受吞吐交换。如果吞吐是绝对第一优先级、且更长停顿也能接受,还应把 Parallel GC 纳入基线;如果是典型在线服务,通常先比较 G1 与 ZGC 更有意义。

G1 与 ZGC 选型决策关系

用同一负载做 A/B 验证

选型必须保持 JDK、应用版本、堆大小、容器 CPU 限额、流量模型和预热过程一致。下面先验证启动参数确实选择了目标收集器;生产压测时再为两个方案分别开启统一 GC 日志并比较业务指标。

bash
java -XX:+UseG1GC -XX:+PrintFlagsFinal -version 2>&1 | grep 'UseG1GC'
java -XX:+UseZGC -XX:+PrintFlagsFinal -version 2>&1 | grep 'UseZGC'

预期输出

text
bool UseG1GC = true ... {command line}
bool UseZGC = true ... {command line}

不同 JDK 的空格、标志类别文字可能不同,但两行的关键验证点分别是 UseG1GC = true 与 UseZGC = true。正式 A/B 时至少比较请求吞吐、p99/p99.9、最大 GC 停顿、进程 CPU、堆峰值和分配失败或停顿类事件,并连续覆盖业务峰值,而不是只跑几十秒微基准。

避免把调参问题误判成选型问题

如果 G1 的问题来自过小堆、异常对象晋升、Humongous Object 激增或极端跨 Region 引用,直接换 ZGC 可能只是暂时掩盖根因。反过来,如果服务的硬约束就是极低尾延迟,持续把 G1 的 MaxGCPauseMillis 往下压也可能以更高 GC 频率和吞吐损失换来仍不稳定的结果。

最终选择应写成可复现结论:在同一业务负载和资源预算下,哪种方案满足延迟 SLO,并付出了多少 CPU、内存和吞吐成本。只有这个结论能进入容量规划和生产基线。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

选择吞吐优先或低延迟方案

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通