Redis 与缓存 / 系统课时
设计 Streams 监控指标
设计 Streams 监控指标
本课把 Redis Streams 的写入、消费组进度、Pending 与业务处理耗时整理成一套可落地的监控模型。重点是避免把 XLEN 或任一组级字段直接当成“总积压量”,而是用多个信号判断消息究竟还未投递、已经投递但未确认,还是仅仅被保留在 Stream 中。
学习目标
- 能区分 Stream 保留长度、消费组
lag与pending的含义。 - 能读取组级进度与 Pending 状态,并识别
lag暂时不可计算的情况。 - 能组合写入速率、确认速率、
lag、Pending 和处理耗时设计告警。
先把“积压”拆成可观测信号
Redis Streams 没有一个直接表示“Stream 中尚未被整个消费过程追上的消息规模”的全局指标。XLEN 只统计当前仍保留的条目;消费组则各自维护投递进度和 PEL,因此多消费组场景必须按组观察,不能把 Stream 长度、last-delivered-id、lag 或 pending 中任意一个字段单独等价为“总积压”。
| 信号 | 表示什么 | 适合判断什么 |
|---|---|---|
XLEN |
当前 Stream 中仍保留的条目数 | 保留规模、裁剪效果、内存趋势 |
lag |
某消费组尚未投递给消费者的条目数 | 该组是否追得上生产进度 |
pending |
已投递给该组但尚未 XACK 的 PEL 条目数 |
消息领取后是否处理卡住 |
| 写入速率 | 单位时间新增消息数 | 生产流量是否突增 |
| 确认速率 | 单位时间业务成功后完成 ACK 的消息数 | 实际处理吞吐是否下降 |
| 处理耗时 | 从领取到业务完成并 ACK 的耗时分布 | 下游变慢、长尾任务 |
在支持 entries-read 与 lag 的 Redis 版本中,lag 是消费组级的未投递数量,比用 XLEN 猜测积压更直接。但当消费组被重新定位,或删除、裁剪等操作使 Redis 无法可靠维护该组的读取计数时,lag 可能返回不可计算值。此时不要用 Stream ID 做数值相减,也不要使用 XLEN - pending 之类公式补算,因为 Stream ID 不是连续计数器,且 pending 与保留长度描述的是不同状态。

读取 Redis 基础信号
下面把 Stream 长度、消费组状态和 Pending 摘要放在一次采集中。示例假设 orders 已存在,order-group 是该 Stream 上的消费组,并且当前 Redis 的 XINFO GROUPS 支持 entries-read 与 lag;实际数值、消费者名称和 ID 会不同。
echo '== stream length =='
redis-cli XLEN orders
echo '== groups =='
redis-cli XINFO GROUPS orders
echo '== pending =='
redis-cli XPENDING orders order-group预期输出
== stream length ==
(integer) <XLEN>
== groups ==
1) 1) "name"
2) "order-group"
3) "consumers"
4) (integer) <CONSUMERS>
5) "pending"
6) (integer) <PENDING>
7) "last-delivered-id"
8) "<ID>"
9) "entries-read"
10) (integer) <ENTRIES_READ>
11) "lag"
12) (integer) <LAG>
== pending ==
1) (integer) <PENDING>
2) "<LOWEST_PENDING_ID>"
3) "<HIGHEST_PENDING_ID>"
4) 1) 1) "consumer-1"
2) "<COUNT>"XINFO GROUPS 中的 last-delivered-id 说明该组最近一次投递推进到哪里,但不能靠 ID 算术推导剩余条数。若 entries-read 或 lag 不可用,客户端可能显示空值,此时应把它记录为“当前不可计算”,而不是替换成一个未经 Redis 保证的估算值。XPENDING 摘要适合观察 PEL 规模;需要排查长期未确认消息时,再查询 Pending 明细中的 idle 时间。
补上应用侧速率与耗时
写入速率最好由生产端计数器提供,确认速率则由消费者在业务成功并执行 XACK 后累加。两者按固定采样窗口换算为每秒或每分钟速率,才能判断生产与消费能力是否持续失衡;不要把单次采样值当成趋势。
业务处理耗时也应在消费者应用侧记录直方图,至少观察 P95、P99 和超时比例。Pending 的 idle 时间表示某条消息距离最近一次投递已经过去多久,适合发现卡住或失联消费者,但它不是业务处理耗时;消息重新投递后,idle 会重新从新的投递时刻计算,更不能与业务耗时混为一谈。
用组合信号判断故障
当写入速率持续高于确认速率,同时某个消费组的 lag 连续增长,通常说明该组的投递后处理能力追不上生产速度。应继续检查消费者数量、单条处理耗时和下游依赖,再决定扩容还是修复瓶颈。
如果 lag 不高但 pending 持续增长,并伴随 P99 处理耗时或最大 idle 上升,更像是消息已经领走,却卡在业务处理、外部调用或异常消费者上。若 XLEN 增长而各组的 lag 与 pending 都稳定,则更可能是保留策略导致 Stream 变长,不能据此认定消费落后。
对于单个消费组,在 lag 可计算且“已投递未 ACK 就代表业务尚未完成”的前提下,lag + pending 可以作为运维侧的待完成工作量近似值。它不是 Redis 提供的独立指标,也不应跨消费组直接相加;裁剪、删除、提前 ACK 或不同业务确认语义都会让该近似偏离真实未完成任务数。
设计告警门槛
告警应同时考虑绝对值、增长速度和持续时间。消费落后可使用“确认速率持续低于写入速率,并且组级 lag 连续上涨”;处理异常可使用“pending 连续上涨,并且高分位处理耗时或最大 idle 同步恶化”;lag 不可计算则单独上报可观测性异常,避免错误补算掩盖真实问题。
最终仪表盘至少把写入速率、确认速率、每个消费组的 lag 与 pending、处理耗时分位值放在同一时间轴上。这样才能区分流量变大、消费能力下降、消息已领取但卡住,以及仅因保留策略变化导致的 Stream 长度增长。