机器学习与深度学习 / 系统课时

池化与下采样

池化与下采样

本课解决“为什么卷积网络要缩小特征图,以及不同缩小方式会损失什么信息”这个问题。你将比较最大池化、平均池化和步幅卷积,并能根据任务对细节、位置与计算量的要求选择方案。

学习目标

  • 说明下采样对计算量、感受野和空间精度的影响
  • 比较最大池化、平均池化与步幅卷积的行为差异
  • 识别过早或过强下采样带来的信息损失

为什么要下采样

卷积层越往后,通道数通常越多。如果空间尺寸始终不变,计算量和显存占用会迅速增加。下采样通过缩小特征图的高和宽,降低后续层的计算成本,并让后层单个位置覆盖原图更大的区域。

下采样不是无损压缩。它会降低位置分辨率,使模型更关注“某种特征是否存在”,而不再精确记录它出现在哪个像素。分类任务通常能接受一定的位置模糊,但分割、关键点检测等任务更依赖细粒度空间信息。

三种下采样方式

池化层在局部窗口内执行固定统计操作,不学习权重。以 2 × 2 窗口、步幅 2 为例,每四个位置会被压缩成一个位置,空间边长通常减半。

方法 局部输出 更容易保留 主要风险
最大池化 窗口中的最大值 最强响应、显著边缘 弱响应和细节被直接丢弃
平均池化 窗口中的平均值 整体强度、平滑趋势 峰值被稀释,边界变模糊
步幅卷积 可学习的加权结果 与任务相关的组合特征 参数与训练成本更高

例如窗口数值为 1、2、3、8,最大池化输出 8,强调最强激活;平均池化输出 3.5,反映整体水平。步幅卷积则把移动步幅设为 2 或更大,在提取特征的同时缩小尺寸,并通过可学习权重决定保留哪些局部组合。

三种下采样方式对同一特征图的影响

如何选择下采样方案

图像分类更关心类别而非精确位置,可以在网络中逐步下采样。最大池化适合保留强响应,平均池化适合汇总区域统计;网络末端常用全局平均池化,把每个通道压缩为一个数,减少全连接层参数。

目标检测、语义分割和小目标识别需要保留空间细节,应避免在前几层连续大步幅下采样。更稳妥的做法是逐级缩小尺寸,并通过跳跃连接或多尺度特征融合补回高分辨率信息。

常见错误:把“尺寸更小”直接等同于“特征更好”。下采样只是在计算效率与空间信息之间做取舍,过早压缩可能让小目标在进入深层网络前就消失。

本课总结

  • 下采样能减少计算量并扩大有效观察范围,但会牺牲位置精度和局部细节
  • 最大池化保留峰值,平均池化保留区域均值,步幅卷积通过可学习权重完成压缩
  • 分类任务可更积极地下采样,密集预测和小目标任务应更谨慎地保留高分辨率特征

下一课预告

下一课将把卷积、激活和下采样组合成完整的卷积神经网络,进一步理解图像分类模型如何从低级边缘逐步学习到高级语义。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

池化与下采样

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通