流媒体与实时通信 / 系统课时

直播 CDN 如何组织分层回源

直播 CDN 如何组织分层回源

本篇用一个具体直播流量场景拆开 CDN 分层:播放器先访问边缘节点,未命中时再向区域中间层回源,最后才到源站。你将能算出不同命中率下的源站请求量与出口带宽,并据此判断层级是否值得增加。

学习目标

  • 能画出播放器、边缘缓存、区域中间层和源站之间的回源路径。
  • 能区分边缘命中、区域命中和源站回源,并计算各层承担的流量。
  • 能用缓存命中率判断分层配置是否真的降低源站压力。

分层回源的请求路径

直播 CDN 常见结构是“边缘节点 + 区域中间层 + 源站”。播放器请求某个媒体对象时,先到距离用户最近的边缘节点;边缘没有对象,再向区域中间层查询;区域中间层仍未命中,才访问源站。

直播 CDN 分层回源路径:播放器、边缘节点、区域中间层与源站的请求与返回关系

假设一个直播切片请求的访问顺序为:用户请求 seg120.m4s,边缘节点先查本地缓存;命中时不产生上游请求,未命中则向区域层请求。只有区域层也未命中,才把请求继续推到源站。这个路径适合高并发直播,因为同一媒体对象可以被大量边缘用户复用。

用数字看懂三级流量

设某直播峰值有 100,000 个播放器,每个播放器平均持续产生 2 Mbit/s 的媒体请求流量,则观众侧总吞吐约为:

100000×2=200000 Mbit/s=200 Gbit/s100000 \times 2=200000\text{ Mbit/s}=200\text{ Gbit/s}

若边缘缓存命中率为 95%,只有 5% 的请求继续向区域层发送,则边缘到上游的理论流量约为 10 Gbit/s。假设区域层再命中 90%,最终到源站的流量只有:

200×5%×10%=1 Gbit/s200\times 5\%\times 10\%=1\text{ Gbit/s}

这说明多级缓存的价值不只是“让用户更快”,更重要的是把高并发重复读取挡在源站之前。实际生产环境还要考虑请求头、分片大小、并发连接、协议开销以及预热流量,因此带宽预算应留安全余量。

什么时候会向上回源

对于直播 HLS 或 CMAF,缓存对象通常是短时存在的媒体分片和播放列表。以 2 秒分片为例,同一时刻大量用户可能请求相同的最新分片。如果边缘节点刚好没有该分片,第一批请求会触发一次上游获取,后续请求可复用已缓存对象。

需要特别注意“同时未命中”的情况。假设一个边缘节点在新分片刚生成后的 100 毫秒内收到 500 个相同请求,而缓存层没有请求合并或类似机制,这 500 个请求可能一起向上游发起,形成瞬时回源尖峰。工程上应通过请求合并、合理的缓存 TTL 和边缘节点预热降低这种放大效应。

如何按命中率判断架构

可以用下面的简化模型估算源站压力:

源站流量 ≈ 播放器总流量 × (1 - 边缘命中率) × (1 - 区域层命中率)

例如总观众流量为 200 Gbit/s,边缘命中率从 95% 降到 90%,区域命中率保持 90%,则源站流量会从 1 Gbit/s 上升到 2 Gbit/s,直接翻倍。反过来,当边缘节点已经接近 98% 命中时,继续把边缘命中率提高 1 个百分点,对源站的绝对收益可能比增加更多中间层还明显。

实际评估时至少记录三项:边缘缓存命中率、区域缓存命中率、源站回源带宽。再把它们与直播峰值并发同时画在同一时间轴上,才能判断某次回源尖峰到底来自用户增长、缓存失效,还是上游节点异常。

分层 CDN 的基本原则可以落成一个简单判断:重复读取越多、边缘节点越多、源站带宽越昂贵,越值得使用区域中间层;如果内容本身不可缓存或每个请求都不同,单纯增加缓存层不会自动降低源站压力。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

直播 CDN 如何组织分层回源

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通