架构与系统设计 / 系统课时
用本地缓存分担热点读取
用本地缓存分担热点读取
当秒杀入口的活动配置、商品标题和展示规则被反复读取时,即使 Redis 足够快,也会形成集中热点。本课把这类低变更数据前移到进程内,用有界缓存、TTL、主动失效和版本校验控制陈旧风险,让多数请求不再穿透到 Redis。
学习目标
- 判断哪些热点读取适合放入本地缓存,哪些数据必须保持远端权威。
- 组合容量上限、过期时间、主动失效和版本校验,避免缓存无限增长或长期陈旧。
- 用可运行示例验证命中、失效与过期行为,并理解多实例下的一致性边界。
本地缓存为什么能减轻集中热点
远端缓存把数据库压力集中到了 Redis,而本地缓存继续把读取链路缩短到应用进程。一个商品在 100 个应用实例上各保留一份静态信息,热点流量会先被 100 份内存副本吸收,只有首次加载、过期或失效后的请求需要访问 Redis。

本地缓存适合读多写少且允许短暂陈旧的数据,例如活动开始结束时间、商品名称、图片地址、限购规则和页面展示配置。库存余量、支付状态、订单状态等强动态数据不应仅靠本地副本判断,否则不同实例会同时看到旧值。
把缓存做成有界而不是永久副本
本地缓存至少要同时限制容量和生命周期。容量上限防止活动、商品或租户键持续累积占满堆内存;TTL 负责兜底,即使失效消息丢失,旧值也会在有限时间后被淘汰。
热点系统里不宜让所有实例使用完全相同的过期时刻。可以在基础 TTL 上加入少量随机抖动,例如 60 秒基础值加 0~10 秒随机量,降低大量实例同时过期后一起回源 Redis 的概率。容量淘汰通常采用 LRU、LFU 或成熟缓存库提供的权重策略,而不是自己维护一个无限增长的 ConcurrentHashMap。
组合主动失效与版本校验
TTL 解决的是“最终会过期”,主动失效解决的是“变更后尽快过期”。当运营后台修改活动配置时,配置服务先提交新版本,再通过消息总线广播 key + version。应用实例收到事件后,仅当事件版本高于本地条目版本时删除旧值,随后第一次请求再回源加载。
版本号还能抵抗乱序消息。假设实例已经缓存版本 8,却晚到了一条版本 7 的失效事件,比较版本后应忽略旧事件,不能把更新数据再次驱逐。版本检查的依据应来自本地已接收的变更事件、配置快照或低频同步结果;如果每个请求都为了查版本再访问 Redis,就失去了本地缓存的意义。
下面的 Java 程序用一个最小有界缓存演示容量、TTL、主动失效和最低版本校验。它只用于说明策略,生产环境应优先使用经过并发与淘汰验证的缓存库。
import java.util.LinkedHashMap;
import java.util.Map;
public class LocalCacheDemo {
static final class Entry {
final String value;
final long version;
final long expireAt;
Entry(String value, long version, long expireAt) {
this.value = value;
this.version = version;
this.expireAt = expireAt;
}
}
static final class Cache {
private final int maxEntries;
private final long ttlMillis;
private final LinkedHashMap<String, Entry> data =
new LinkedHashMap<>(16, 0.75f, true);
Cache(int maxEntries, long ttlMillis) {
this.maxEntries = maxEntries;
this.ttlMillis = ttlMillis;
}
synchronized void put(String key, String value, long version) {
// 新键写入前先淘汰最久未访问的条目,保证容量有上限。
if (!data.containsKey(key) && data.size() >= maxEntries) {
String eldest = data.keySet().iterator().next();
data.remove(eldest);
}
data.put(key, new Entry(value, version,
System.currentTimeMillis() + ttlMillis));
}
synchronized String get(String key, long requiredVersion) {
Entry entry = data.get(key);
if (entry == null) {
return null;
}
// 过期或版本落后时都按未命中处理,让调用方回源。
if (System.currentTimeMillis() >= entry.expireAt
|| entry.version < requiredVersion) {
data.remove(key);
return null;
}
return entry.value;
}
synchronized void invalidate(String key, long newVersion) {
Entry entry = data.get(key);
// 只让更高版本的失效事件删除当前值,抵抗消息乱序。
if (entry != null && entry.version < newVersion) {
data.remove(key);
}
}
}
public static void main(String[] args) throws Exception {
Cache cache = new Cache(2, 120);
cache.put("sku-100", "Flash Phone v7", 7);
System.out.println("first=" + cache.get("sku-100", 7));
cache.invalidate("sku-100", 8);
System.out.println("afterInvalidate=" + cache.get("sku-100", 8));
cache.put("sku-100", "Flash Phone v8", 8);
Thread.sleep(200);
System.out.println("afterTtl=" + cache.get("sku-100", 8));
}
}预期输出
first=Flash Phone v7
afterInvalidate=null
afterTtl=nullnull 代表本地未命中,真实业务此时应回源 Redis,拿到最新值后再写回本地缓存。实例很多时,回源过程还应配合单飞或请求合并,让同一个键在单实例内只由一个线程负责加载,避免本地缓存失效瞬间形成小规模击穿。
给陈旧数据划清安全边界
本地缓存不是 Redis 的等价副本,而是一次用一致性换吞吐的优化。设计时要为每类数据定义“最多允许旧多久”和“旧值是否会改变交易结果”。展示文案旧几十秒通常可接受,活动开关可能只允许旧几秒,而库存扣减和订单状态则应继续走具备原子性或权威一致性的链路。
当变更频率已经接近读取频率、单条数据很大、实例数极多导致副本成本过高,或业务无法容忍短暂陈旧时,本地缓存的收益会快速下降。此时应优先优化 Redis 分片、热点拆分或数据模型,而不是把更多权威状态复制进每个进程。