机器学习与深度学习 / 系统课时

理解卷积运算

理解卷积运算

卷积层通过一个小尺寸卷积核在图像上滑动,把局部像素组合成新的特征图。真正需要掌握的是四件事:卷积核看多大范围、每次移动几格、边缘是否补零,以及这些参数最终怎样改变输出尺寸和通道数。

学习目标

  • 说明卷积核如何从局部区域计算一个特征图位置的数值。
  • 根据输入尺寸、卷积核、步长和填充计算输出空间尺寸。
  • 使用 tf.nn.conv2d 运行最小卷积,并读懂输出张量形状。

卷积核怎样生成特征图

以单通道图像为例,一个 3×3 卷积核每次覆盖输入中的 9 个数值,将对应位置逐项相乘后求和,得到特征图中的一个数。随后卷积核向右或向下移动,重复同样计算,直到覆盖完整个允许的输出区域。

例如输入局部区域和卷积核都由 1 组成,3×3 区域共有 9 个位置,因此一次计算结果为 9。若卷积核换成边缘检测型权重,同一区域就会对亮度变化产生不同响应,而不是简单统计像素总和。

卷积核滑动并生成特征图以及步长填充对输出范围的影响

步长和填充决定输出尺寸

对 VALID 填充,单个空间维度的输出大小可按 floor((input - kernel) / stride) + 1 计算。SAME 会自动在边缘补零,其输出大小为 ceil(input / stride);当步长为 1 时,输出高宽与输入相同。

以 5×5 输入和 3×3 卷积核为例,不考虑膨胀卷积时可以直接得到下面结果。

Padding Stride 输出尺寸
VALID 1 3×3
SAME 1 5×5
VALID 2 2×2
SAME 2 3×3

SAME 不等于“永远保持原尺寸”。例如输入宽度为 5、步长为 2 时,输出宽度是 ceil(5 / 2) = 3。只有步长为 1 时,SAME 才会让空间尺寸保持不变。

用 tf.nn.conv2d 跑一个最小例子

TensorFlow 的 tf.nn.conv2d 默认处理 NHWC 输入,卷积核形状为 [kernel_height, kernel_width, in_channels, out_channels]。下面让输入和卷积核全部取 1,这样每个输出值都能直接通过覆盖到的有效元素数量验证。

python
import tensorflow as tf

x = tf.ones((1, 4, 4, 1), dtype=tf.float32)
kernel = tf.ones((3, 3, 1, 1), dtype=tf.float32)

y_valid = tf.nn.conv2d(x, kernel, strides=1, padding='VALID')
y_same = tf.nn.conv2d(x, kernel, strides=2, padding='SAME')

print('VALID shape:', y_valid.shape)
print(y_valid.numpy().reshape(2, 2))
print('SAME stride=2 shape:', y_same.shape)
print(y_same.numpy().reshape(2, 2))

预期输出

text
VALID shape: (1, 2, 2, 1)
[[9. 9.]
 [9. 9.]]
SAME stride=2 shape: (1, 2, 2, 1)
[[9. 6.]
 [6. 4.]]

VALID 的每个位置都完整覆盖 3×3 区域,所以结果都是 9。SAME 配合步长 2 时,右侧和下侧部分位置会覆盖到补零区域,因此有效输入元素分别减少到 6 或 4,这也是边缘输出值不同的原因。

通道数和过滤器数量

RGB 输入不仅有空间尺寸,还有 3 个输入通道,因此一个普通二维卷积核必须同时跨过全部输入通道。若输入形状是 (B, 32, 32, 3),使用 16 个 3×3 过滤器且 padding='same'、步长为 1,输出就是 (B, 32, 32, 16)。

对应 Keras 层可以写成 tf.keras.layers.Conv2D(16, 3, padding='same')。默认启用偏置时,参数量为 3 × 3 × 3 × 16 + 16 = 448:前 432 个是卷积核权重,后 16 个是每个输出通道各自的偏置。

这里的 16 个输出通道不是从 RGB 三个通道直接复制出来的,而是 16 组不同卷积核分别学习得到的特征图。继续堆叠卷积层时,下一层卷积核的 in_channels 必须与上一层输出通道数一致。

最容易算错的边界

第一类错误是把输入通道数与卷积核数量混为一谈。RGB 输入有 3 个输入通道,但完全可以使用 16、32 或 64 个过滤器;过滤器数量决定输出通道数,而每个普通卷积核本身都覆盖全部 3 个输入通道。

第二类错误是把 SAME 理解成任意步长都保持尺寸。检查输出时直接记住 ceil(input / stride) 更可靠,例如 224×224 输入配步长 2 会得到 112×112,而不会继续保持 224×224。

遇到尺寸错误时,按输入 H、W、C,卷积核大小,stride,padding,输出通道数的顺序逐项核对。只要这六项明确,大多数卷积层的输出形状都可以在运行模型之前直接算出来。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

理解卷积运算

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通