Redis 与缓存 / 系统课时
形成上线检查单
形成上线检查单
本课把 Redis Streams 消费链路压缩成一张可执行的上线检查单,从数据保留、消费并发、重试与幂等、监控告警和故障恢复五个维度逐项验收,最终得到可直接用于发布前评审的门禁标准。
学习目标
- 能够检查 Stream 保留策略是否与业务恢复窗口匹配。
- 能够核对消费并发、重试和 Pending 治理是否存在明确边界。
- 能够把关键运行指标和故障恢复动作写成可执行的上线门禁。
数据保留与容量门禁
先确认消息保留不是“越久越安全”。保留窗口应覆盖正常消费、故障恢复和人工处置所需时间,同时受 Stream 长度、内存预算和历史数据价值约束。上线前应明确使用 MAXLEN、MINID 或其他归档与清理策略控制历史数据,而不是只观察当前长度。
至少确认三件事:裁剪规则是什么;被裁剪的数据是否仍有恢复来源;按照峰值写入速率估算时,最长可接受故障窗口内的积压是否会突破容量预算。门禁应写成“阈值 + 处置动作”,而不是一个没有依据的固定长度。
消费并发与处理边界
消费并发应以端到端处理能力为基准,而不是简单增加消费者数量。同一消费组可以由多个消费者协作处理新消息;如果业务通过多个 Stream 拆分流量,还要同时检查热点业务键、下游数据库连接数、外部 API 配额以及单消息处理时长。
上线前应记录正常峰值下的消费速率、处理耗时和 Pending 基线,并定义何时增加消费者、何时应先扩容下游。对于处理耗时波动明显的任务,还要验证提高并发后不会先触发数据库锁竞争、线程池或连接池耗尽。
重试、Pending 与幂等门禁
失败消息不能只依赖人工查看 Pending。必须事先定义谁扫描超时 Pending、超过多长空闲时间才允许接管、最多尝试多少次、哪些异常可以重试,以及超过上限后进入隔离流程还是转人工处理。重试次数和接管阈值都应来自业务恢复目标,而不是随意取值。
幂等边界必须落实到业务侧:使用业务唯一键、状态机条件或去重记录,保证同一消息被重复投递、重复接管,或业务处理成功但 ACK 未成功时,再次执行仍不会重复扣款、重复发货、重复通知或重复推进状态。只有业务副作用已经成功落地,才应确认消息;如果业务提交结果不确定,应先依据幂等规则核验业务状态,再决定是否重试或补发 ACK,避免因“结果未知”再次执行同一业务动作。
监控与告警门禁
监控至少覆盖消息生产、消费和恢复三个阶段。最有价值的信号通常不是单一的 Stream 长度,而是Pending 数量、积压增长速度、消费者活跃度、处理失败次数和恢复耗时之间的组合关系。
告警也应分层。例如 Pending 持续增长通常表示处理能力落后;消费者数量突然下降可能是实例或部署异常;Pending 长时间没有下降则需要检查消息是否卡住或消费者是否长期没有有效处理。告警触发后必须对应明确的处置动作,否则只能发现问题,不能形成上线门禁。
故障恢复与发布门禁
上线前最后检查恢复路径是否真的可执行:消费者异常退出时谁发现 Pending,谁判断消息已经超过安全接管阈值,谁执行接管,接管失败如何继续处理,业务成功后何时 ACK,以及重复接管是否仍满足幂等。发布前至少执行一次只读冒烟检查,确认 Stream、消费组、消费者和 Pending 都能够被观测。
redis-cli XLEN orders-events
redis-cli XINFO GROUPS orders-events
redis-cli XINFO CONSUMERS orders-events orders-workers
redis-cli XPENDING orders-events orders-workers
redis-cli XPENDING orders-events orders-workers - + 20预期结果
(integer) <VALUE>
1) 1) "name"
2) "orders-workers"
3) "consumers"
4) (integer) <VALUE>
5) "pending"
6) (integer) <VALUE>
...
1) 1) "name"
2) "<VALUE>"
3) "pending"
4) (integer) <VALUE>
5) "idle"
6) (integer) <VALUE>
...
1) (integer) <VALUE>
2) "<ID>"
3) "<ID>"
4) ...
1) 1) "<ID>"
2) "<VALUE>"
3) (integer) <VALUE>
4) (integer) <VALUE>
...实际长度、消费者数量、Pending 数和消息 ID 会随运行状态变化。XPENDING 的汇总结果用于判断 Pending 总量和归属,扩展形式则可查看消息 ID、当前消费者、空闲时间和投递次数;如果当前没有 Pending,扩展查询不会返回待处理记录。上线门禁关注的是这些状态可观测,并且异常值都存在对应的阈值和处置方案。
上线检查单
| 检查维度 | 上线前必须确认 | 不通过时的处理 |
|---|---|---|
| 数据保留 | 裁剪策略、容量预算、恢复来源已明确 | 先补容量与数据恢复方案 |
| 消费并发 | 消费者数量、处理时延、下游容量已验证 | 降低并发或扩容下游 |
| 重试策略 | 接管阈值、最大次数、失败去向已确定 | 禁止直接上线 |
| 幂等能力 | 重复投递或接管不会再次产生业务副作用 | 先补业务唯一键、状态条件或去重机制 |
| 监控告警 | Pending、积压、消费者状态和失败率可观测 | 补指标、阈值与告警动作 |
| 故障恢复 | 异常退出、Pending 接管、ACK 与回滚路径已演练 | 先完成故障演练 |
这张表的价值是把“Redis 配好了”转化成“消息链路具备可恢复运行条件”。只有保留、并发、重试、幂等、监控和恢复都存在明确阈值、责任人和验证方法,Redis Streams 消费链路才适合进入生产。