架构与系统设计 / 系统课时

缓存击穿和雪崩怎么答

缓存击穿和雪崩怎么答

回答缓存故障不能只背“加锁、随机过期时间”。更完整的思路是先指出流量怎样从缓存泄漏到数据库,再分别控制热点 Key、集中失效和缓存服务故障造成的放大效应。

学习目标

  • 准确区分缓存击穿与缓存雪崩的触发条件和影响范围
  • 从热点保护、失效时间和后端保护三个方向设计治理方案
  • 用故障扩散链路组织一段完整的系统设计面试回答

先区分击穿和雪崩

缓存击穿通常围绕一个或少数热点 Key。例如一个热门商品每秒收到大量请求,它恰好过期后,许多并发请求同时发现缓存未命中,于是一起访问数据库。问题的核心是单个热点失效瞬间形成并发回源。

缓存雪崩的范围更大:大量 Key 在接近的时间集中失效,或者整个缓存集群不可用,导致原本由缓存吸收的大量请求同时转向数据库和下游服务。此时不仅是某个查询变慢,而是连接池、线程池、数据库 CPU 等资源可能连续被打满。

缓存击穿与雪崩的触发和故障扩散关系

两者都表现为“缓存未命中后数据库压力上升”,但治理重点不同:击穿首先限制同一个热点的并发重建,雪崩首先限制大量失效同时发生以及故障继续向后端扩散。

热点 Key 要避免并发重建

最常见的做法是请求合并:第一个发现热点缓存失效的请求负责查询数据库并重建缓存,其他请求等待已有的重建结果,而不是各自访问数据库。单机可以使用进程内的 single-flight 思路,多实例部署则需要能覆盖多个实例的协调机制。

另一种方案是逻辑过期。缓存中的数据不立刻删除,而是同时保存一个业务上的过期时间。请求发现数据已逻辑过期时,可以先返回允许范围内的旧值,再由一个后台任务刷新缓存。这能把数据库回源移出用户请求的关键路径,但代价是必须接受短时间陈旧数据。

对于极少数长期热点,还可以不依赖自然过期,而由数据变更事件或定时任务主动更新。不过这种方案把复杂度从“缓存重建”转移到了“更新可靠性”,如果更新事件丢失,旧数据可能长期存在。

雪崩要同时处理失效时间和故障边界

如果大量 Key 都使用完全相同的固定 TTL,它们可能在批量写入后一起过期。常见治理方式是在基础过期时间上增加随机抖动,让失效时间分散,避免形成同一时刻的大规模回源峰值。

但随机 TTL 只能解决“集中到期”,无法处理整个缓存服务不可用。因此还需要保护数据库和下游:入口可以限流,应用可以限制并发回源,在数据库已接近容量上限时对非核心请求降级,而不是让所有请求无限等待后一起超时。

缓存自身也需要故障恢复能力,例如副本或故障切换、启动后的热点预热,以及容量恢复时逐步放量。如果缓存刚恢复就让所有流量立即回灌,可能再次形成新的负载尖峰。

用数字解释治理为什么有效

假设一个热点商品平时有 5000 QPS,缓存命中时数据库几乎看不到这些读取。Key 过期后若 5000 个请求都直接回源,即使持续时间很短,也可能瞬间耗尽数据库连接。请求合并后,同一轮通常只需要极少量重建请求,其他请求复用结果,压力等级完全不同。

雪崩则不能只盯一个 Key。假设缓存平时承担了数据库前方 90% 的读取,一旦整体不可用,数据库看到的流量可能迅速扩大到原来的数倍甚至更多。此时最重要的是依据数据库真实可承受的吞吐量限制回源,让部分请求快速失败或降级,也不要把整个系统拖入排队和超时。

把答案组织成一条故障链

面试时可以按照“触发条件 → 流量放大 → 后端保护 → 恢复方式”来回答。热点 Key 到期造成击穿时,采用请求合并、逻辑过期或主动刷新;批量过期时为 TTL 增加抖动;缓存整体故障时,再用限流、降级和数据库容量保护阻止故障继续扩散。

最后补上恢复阶段:缓存重新可用后进行热点预热并逐步恢复流量,同时观察缓存命中率、回源 QPS、数据库连接数和请求延迟。这样回答的重点就从零散的缓存技巧,变成了完整解释故障为什么发生、怎样被放大,以及怎样把影响控制在缓存层附近。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

缓存击穿和雪崩怎么答

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通