机器学习与深度学习 / 系统课时
看清通道如何参与卷积计算
看清通道如何参与卷积计算
面对 RGB 图像或中间层的多通道特征图,卷积并不是分别处理每个通道后简单保留结果。一个标准卷积的输出通道会同时读取全部输入通道,再把各通道贡献相加。本节把这一步拆开,并据此判断卷积权重张量的每个维度。
学习目标
- 解释单个输出通道如何聚合全部输入通道的信息
- 根据输入通道数、输出通道数和卷积核尺寸计算权重形状与参数量
- 正确区分输入通道、输出通道以及框架中的卷积权重维度顺序
从 RGB 输入扩展到多通道卷积
一张 RGB 图像可以表示为 ,其中三个输入通道分别保存红、绿、蓝分量。若使用 卷积,单个输出通道对应的卷积核不能只有一个 平面,而必须覆盖输入的全部三个通道。
因此,对某个输出通道来说,它实际拥有三个 权重切片。计算一个空间位置时,三个切片分别与 R、G、B 的局部区域逐元素相乘并求和,随后把三个通道的结果再次相加,再加上该输出通道的偏置,最终得到一个标量。
当卷积核移动到下一个空间位置时,这整套跨通道权重一起移动,而不是让三个输入通道各自产生互不相关的最终输出。

一个输出通道为什么要看全部输入通道
进入网络较深位置后,“通道”通常已经不再对应 RGB,而是不同类型的特征响应。例如某些通道可能对水平边缘敏感,另一些通道可能对纹理或颜色组合敏感。下一层若只能逐通道独立计算,就很难把这些特征组合成更高级的模式。
标准卷积因此采用密集的通道连接:每个输出通道都拥有覆盖全部 个输入通道的权重。若卷积核空间尺寸为 ,那么一个输出通道需要的权重形状可以写成:
如果这一层需要 个输出通道,就需要 组这样的权重,因此总权重数量为:
再考虑每个输出通道一个偏置,完整参数量为:
例如输入有 3 个通道,使用 卷积并产生 8 个输出通道,参数量就是 。
用 1×1 卷积看懂通道聚合
卷积省去了空间邻域,很适合观察通道计算。假设某个位置的三个输入通道数值为 。第一个输出通道的权重为 ,偏置为 ,则结果是:
(2×0.5+(-1)×1+3×(-0.5)+0.2=-1.3)
如果第二个输出通道使用另一组权重 ,偏置为 ,同一个输入位置会得到:
(2×1+(-1)×0.25+3×0.5-0.1=3.15)
这说明两个容易混淆的关系:一个输出通道会聚合所有输入通道,而多个输出通道则通过不同的权重组合,从同一批输入特征中提取不同信息。
看懂权重张量的四个维度
卷积权重通常有四个核心维度:输出通道、输入通道、卷积核高度和卷积核宽度。不同框架只是排列顺序不同,数学含义并没有改变。
| 表示方式 | 常见权重形状 | 含义 |
|---|---|---|
| PyTorch | $[C_{out}, C_{in}, K_h, K_w]$ |
先选择输出通道,再选择其连接的输入通道和二维核 |
| TensorFlow/Keras | $[K_h, K_w, C_{in}, C_{out}]$ |
先表示二维核,再列出输入与输出通道 |
例如 、、卷积核为 时,PyTorch 风格的权重形状是 ,而 TensorFlow/Keras 风格是 。两者都包含 个卷积权重,只是轴顺序不同。
用形状检查常见误解
最常见的错误,是看到 卷积就认为一个卷积核永远只有 9 个参数。只有输入恰好是单通道时才如此;输入有 个通道时,一个输出通道实际拥有 个权重。
另一个误解是认为“3 个输入通道经过卷积就应该得到 3 个输出通道”。输出通道数并不由输入通道数自动决定,而是网络设计时单独指定。输入可以有 3 个通道,输出可以是 8、32、64 或其他数量。
看到一个普通卷积层时,可以按固定顺序检查:先确定 ,再确定每个输出通道需要覆盖的空间核大小,最后乘上 。只要记住“空间位置上共享参数,通道方向上完成聚合”,多通道卷积的权重形状和参数量就不会混乱。