编码与格式 / 系统课时

用量化步长控制残差精度

用量化步长控制残差精度

视频编码器通过量化减少变换系数的有效精度,让更多系数变成零,从而降低需要编码的数据量。本课用一组实际数字演示量化、反量化和重建,比较不同步长下的非零系数数量、重建误差与编码成本,并说明为什么量化过强会造成细节损失和块效应。

学习目标

  • 理解量化步长如何改变变换系数,以及解码端为什么无法完全恢复原始值。
  • 使用同一组系数计算不同量化强度下的非零数量与重建误差。
  • 解释量化参数、码率、细节损失和块效应之间的关系。

量化为什么能够减少编码数据

视频编码中的预测器先根据已重建的相邻像素生成预测块,再计算原始块与预测块的残差。残差经过变换,形成一组描述不同空间频率成分的系数。实际编码器可能使用 DCT 类整数变换,也可能根据编码模式跳过变换。

量化会把连续范围内的系数映射到较少的整数等级。细小系数容易变为零,而较大的系数保留近似幅度。量化后的系数再经过扫描和熵编码,通常可以用更少的比特表示。

为了观察单个量化步长的作用,采用简化的均匀标量量化模型:

q=round⁡(cQ)q=\operatorname{round}\left(\frac{c}{Q}\right)
c^=qQ\hat{c}=qQ

其中,cc 是原始变换系数,QQ 是量化步长,qq 是量化后的整数系数,c^\hat{c} 是反量化得到的重建系数。这里的 round⁡\operatorname{round} 表示按绝对值四舍五入后恢复符号。

例如,原始系数为 19,步长为 8,则量化结果为 2,反量化得到 16,误差为 -3。解码器只收到量化等级 2,无法知道原始值究竟是 16、19 还是同一区间内的其他数。

残差变换系数的量化与像素重建数据流

量化发生在残差变换之后,解码端使用反量化系数进行重建。编码器也必须用相同的量化结果进行本地重建,避免编码器与解码器使用不同参考像素而产生预测漂移。

用三种步长量化同一组系数

设一个简化变换块取出以下 8 个系数,单位为变换系数等级:

C=[40,19,−13,7,4,−3,2,0]C=[40,19,-13,7,4,-3,2,0]

分别使用 Q=4Q=4、Q=8Q=8 和 Q=16Q=16。下表按照前面的四舍五入规则计算,负数遵循对称处理。

步长 量化系数 非零数 反量化系数
4 10, 5, -3, 2, 1, -1, 1, 0 7 40, 20, -12, 8, 4, -4, 4, 0
8 5, 2, -2, 1, 1, 0, 0, 0 5 40, 16, -16, 8, 8, 0, 0, 0
16 3, 1, -1, 0, 0, 0, 0, 0 3 48, 16, -16, 0, 0, 0, 0, 0

以 Q=8Q=8 为例,系数 7 量化为 1,反量化为 8;系数 -3 量化为 0,反量化也是 0。非零数从 7 个减少到 5 个,意味着后续扫描中可以出现更长的零值区域。

再计算变换系数域的平方误差和:

SSE=∑i=18(ci−c^i)2SSE=\sum_{i=1}^{8}(c_i-\hat{c}_i)^2
步长 非零系数 系数域 SSE 系数域 MSE
4 7 9 1.125
8 5 55 6.875
16 3 167 20.875

这里的 MSE 是 SSE 除以 8,衡量的是这 8 个变换系数的误差,不等同于最终像素 MSE。真正的画面质量还受变换归一化、反变换、预测和像素裁剪影响。

实验展示了明确的取舍:步长从 4 增至 16,非零系数从 7 个减少到 3 个,但系数域 SSE 从 9 增加到 167。零系数通常更容易压缩,不过真实编码比特数不能简单地用非零数量代替。

量化参数 QP 与码率的关系

H.264/AVC 和 H.265/HEVC 使用量化参数 QP 控制量化强度。对于常见的基础量化步长关系,QP 每增加 6,量化步长约翻倍;不同标准的具体缩放、偏移、位深处理和矩阵规则有所区别。

可以用以下近似关系建立直觉:

Qstep(QP)∝2QP/6Q_{step}(QP)\propto 2^{QP/6}

例如,把 QP 从 22 提高到 28,基础量化步长大约变为原来的 2 倍;继续提高到 34,则约为 QP 22 时的 4 倍。这不是码率按相同比例下降的公式。

对于同一段画面,通常可以观察到以下趋势:

QP 变化 变换系数保留 预期码率趋势 画质风险
降低 QP 更多非零值、精度更高 通常升高 文件更大
提高 QP 更多零值、精度降低 通常下降 纹理模糊、块效应
QP 不变 取决于残差复杂度 仍可能波动 复杂镜头更难压缩

实际码率还由运动复杂度、帧类型、预测质量、熵编码方式、编码工具及码率控制策略决定。某些高频系数对视觉细节贡献很大,即使它们的绝对值较小,也不能仅以系数大小判断删除是否值得。

从重建误差理解细节损失和块效应

当高频变换系数被量化为零,反变换之后,锐利边缘、细线、纹理和文字笔画可能变得平滑。低码率下的草地、头发或密集织物,常出现成片的细节消失。

块效应则与分块预测、变换和量化误差的空间分布有关。相邻块分别重建时,边界两侧可能出现不连续的亮度或色度变化。量化越强,这种差异通常越明显,但块效应并不是量化必然造成的唯一结果。

量化强度对纹理与块边界的视觉影响

如果编码器启用了去块滤波,边界不连续可能被减轻。H.265/HEVC 还具有样本自适应偏移 SAO 等环路滤波工具,因此不能只凭块状边界的明显程度反推出准确 QP。

检查量化效果时,建议将同一画面的边缘、文字和纹理区域放大到 200% 观察,同时以原始分辨率正常观看。只看放大图可能高估视觉缺陷,而只看整体画面又容易漏掉局部细节损失。

如何验证量化强度与实际码率

如果使用 FFmpeg 和已启用 libx264 的构建版本,可以固定输入、编码器和编码预设,只改变 CRF 来做初步对比。CRF 是恒定质量控制参数,不是逐块 QP,也不是固定量化步长;这里用它观察编码器提高压缩强度后的综合表现。

下面的命令适用于已安装支持 libx264 的 FFmpeg 环境,假设当前目录中已有 input.mp4:

bash
ffmpeg -i input.mp4 -an -c:v libx264 -preset medium -crf 18 -y quality18.mp4
ffmpeg -i input.mp4 -an -c:v libx264 -preset medium -crf 32 -y quality32.mp4
ffprobe -v error -select_streams v:0 -show_entries stream=bit_rate -of default=noprint_wrappers=1 quality18.mp4
ffprobe -v error -select_streams v:0 -show_entries stream=bit_rate -of default=noprint_wrappers=1 quality32.mp4

预期结果:两个文件均可播放,ffprobe 对每个文件返回类似 bit_rate=... 的视频流码率字段,具体值取决于输入内容。对于正常具有纹理和运动的视频,CRF 32 的码率通常低于 CRF 18,细节损失也通常更明显;个别极简单的输入可能差异很小。

这两个实验文件并非只改变了单个量化步长:编码器还可能改变模式选择、运动估计结果和系数分布。如果需要严格验证量化公式,应使用前面的固定系数算例;如果需要评估实际视频,应进一步比较 VMAF、PSNR 或 SSIM,并结合主观观看判断。

在低运动、大片平坦区域的动画画面中,提高量化强度可能节省较多比特而视觉变化较小;在复杂草地、快速镜头或屏幕录制的小字号文字中,同样的量化变化往往更容易被察觉。因此应把量化参数当作控制率失真取舍的工具,而不是把某个固定 QP 当成所有素材的最佳答案。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

用量化步长控制残差精度

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通