编码与格式 / 系统课时
用量化步长控制残差精度
用量化步长控制残差精度
视频编码器通过量化减少变换系数的有效精度,让更多系数变成零,从而降低需要编码的数据量。本课用一组实际数字演示量化、反量化和重建,比较不同步长下的非零系数数量、重建误差与编码成本,并说明为什么量化过强会造成细节损失和块效应。
学习目标
- 理解量化步长如何改变变换系数,以及解码端为什么无法完全恢复原始值。
- 使用同一组系数计算不同量化强度下的非零数量与重建误差。
- 解释量化参数、码率、细节损失和块效应之间的关系。
量化为什么能够减少编码数据
视频编码中的预测器先根据已重建的相邻像素生成预测块,再计算原始块与预测块的残差。残差经过变换,形成一组描述不同空间频率成分的系数。实际编码器可能使用 DCT 类整数变换,也可能根据编码模式跳过变换。
量化会把连续范围内的系数映射到较少的整数等级。细小系数容易变为零,而较大的系数保留近似幅度。量化后的系数再经过扫描和熵编码,通常可以用更少的比特表示。
为了观察单个量化步长的作用,采用简化的均匀标量量化模型:
其中, 是原始变换系数, 是量化步长, 是量化后的整数系数, 是反量化得到的重建系数。这里的 表示按绝对值四舍五入后恢复符号。
例如,原始系数为 19,步长为 8,则量化结果为 2,反量化得到 16,误差为 -3。解码器只收到量化等级 2,无法知道原始值究竟是 16、19 还是同一区间内的其他数。

量化发生在残差变换之后,解码端使用反量化系数进行重建。编码器也必须用相同的量化结果进行本地重建,避免编码器与解码器使用不同参考像素而产生预测漂移。
用三种步长量化同一组系数
设一个简化变换块取出以下 8 个系数,单位为变换系数等级:
分别使用 、 和 。下表按照前面的四舍五入规则计算,负数遵循对称处理。
| 步长 | 量化系数 | 非零数 | 反量化系数 |
|---|---|---|---|
| 4 | 10, 5, -3, 2, 1, -1, 1, 0 | 7 | 40, 20, -12, 8, 4, -4, 4, 0 |
| 8 | 5, 2, -2, 1, 1, 0, 0, 0 | 5 | 40, 16, -16, 8, 8, 0, 0, 0 |
| 16 | 3, 1, -1, 0, 0, 0, 0, 0 | 3 | 48, 16, -16, 0, 0, 0, 0, 0 |
以 为例,系数 7 量化为 1,反量化为 8;系数 -3 量化为 0,反量化也是 0。非零数从 7 个减少到 5 个,意味着后续扫描中可以出现更长的零值区域。
再计算变换系数域的平方误差和:
| 步长 | 非零系数 | 系数域 SSE | 系数域 MSE |
|---|---|---|---|
| 4 | 7 | 9 | 1.125 |
| 8 | 5 | 55 | 6.875 |
| 16 | 3 | 167 | 20.875 |
这里的 MSE 是 SSE 除以 8,衡量的是这 8 个变换系数的误差,不等同于最终像素 MSE。真正的画面质量还受变换归一化、反变换、预测和像素裁剪影响。
实验展示了明确的取舍:步长从 4 增至 16,非零系数从 7 个减少到 3 个,但系数域 SSE 从 9 增加到 167。零系数通常更容易压缩,不过真实编码比特数不能简单地用非零数量代替。
量化参数 QP 与码率的关系
H.264/AVC 和 H.265/HEVC 使用量化参数 QP 控制量化强度。对于常见的基础量化步长关系,QP 每增加 6,量化步长约翻倍;不同标准的具体缩放、偏移、位深处理和矩阵规则有所区别。
可以用以下近似关系建立直觉:
例如,把 QP 从 22 提高到 28,基础量化步长大约变为原来的 2 倍;继续提高到 34,则约为 QP 22 时的 4 倍。这不是码率按相同比例下降的公式。
对于同一段画面,通常可以观察到以下趋势:
| QP 变化 | 变换系数保留 | 预期码率趋势 | 画质风险 |
|---|---|---|---|
| 降低 QP | 更多非零值、精度更高 | 通常升高 | 文件更大 |
| 提高 QP | 更多零值、精度降低 | 通常下降 | 纹理模糊、块效应 |
| QP 不变 | 取决于残差复杂度 | 仍可能波动 | 复杂镜头更难压缩 |
实际码率还由运动复杂度、帧类型、预测质量、熵编码方式、编码工具及码率控制策略决定。某些高频系数对视觉细节贡献很大,即使它们的绝对值较小,也不能仅以系数大小判断删除是否值得。
从重建误差理解细节损失和块效应
当高频变换系数被量化为零,反变换之后,锐利边缘、细线、纹理和文字笔画可能变得平滑。低码率下的草地、头发或密集织物,常出现成片的细节消失。
块效应则与分块预测、变换和量化误差的空间分布有关。相邻块分别重建时,边界两侧可能出现不连续的亮度或色度变化。量化越强,这种差异通常越明显,但块效应并不是量化必然造成的唯一结果。

如果编码器启用了去块滤波,边界不连续可能被减轻。H.265/HEVC 还具有样本自适应偏移 SAO 等环路滤波工具,因此不能只凭块状边界的明显程度反推出准确 QP。
检查量化效果时,建议将同一画面的边缘、文字和纹理区域放大到 200% 观察,同时以原始分辨率正常观看。只看放大图可能高估视觉缺陷,而只看整体画面又容易漏掉局部细节损失。
如何验证量化强度与实际码率
如果使用 FFmpeg 和已启用 libx264 的构建版本,可以固定输入、编码器和编码预设,只改变 CRF 来做初步对比。CRF 是恒定质量控制参数,不是逐块 QP,也不是固定量化步长;这里用它观察编码器提高压缩强度后的综合表现。
下面的命令适用于已安装支持 libx264 的 FFmpeg 环境,假设当前目录中已有 input.mp4:
ffmpeg -i input.mp4 -an -c:v libx264 -preset medium -crf 18 -y quality18.mp4
ffmpeg -i input.mp4 -an -c:v libx264 -preset medium -crf 32 -y quality32.mp4
ffprobe -v error -select_streams v:0 -show_entries stream=bit_rate -of default=noprint_wrappers=1 quality18.mp4
ffprobe -v error -select_streams v:0 -show_entries stream=bit_rate -of default=noprint_wrappers=1 quality32.mp4预期结果:两个文件均可播放,ffprobe 对每个文件返回类似 bit_rate=... 的视频流码率字段,具体值取决于输入内容。对于正常具有纹理和运动的视频,CRF 32 的码率通常低于 CRF 18,细节损失也通常更明显;个别极简单的输入可能差异很小。
这两个实验文件并非只改变了单个量化步长:编码器还可能改变模式选择、运动估计结果和系数分布。如果需要严格验证量化公式,应使用前面的固定系数算例;如果需要评估实际视频,应进一步比较 VMAF、PSNR 或 SSIM,并结合主观观看判断。
在低运动、大片平坦区域的动画画面中,提高量化强度可能节省较多比特而视觉变化较小;在复杂草地、快速镜头或屏幕录制的小字号文字中,同样的量化变化往往更容易被察觉。因此应把量化参数当作控制率失真取舍的工具,而不是把某个固定 QP 当成所有素材的最佳答案。