机器学习与深度学习 / 系统课时

看清通道如何参与卷积计算

看清通道如何参与卷积计算

面对 RGB 图像或中间层的多通道特征图,卷积并不是分别处理每个通道后简单保留结果。一个标准卷积的输出通道会同时读取全部输入通道,再把各通道贡献相加。本节把这一步拆开,并据此判断卷积权重张量的每个维度。

学习目标

  • 解释单个输出通道如何聚合全部输入通道的信息
  • 根据输入通道数、输出通道数和卷积核尺寸计算权重形状与参数量
  • 正确区分输入通道、输出通道以及框架中的卷积权重维度顺序

从 RGB 输入扩展到多通道卷积

一张 RGB 图像可以表示为 H×W×3H×W×3,其中三个输入通道分别保存红、绿、蓝分量。若使用 3×33×3 卷积,单个输出通道对应的卷积核不能只有一个 3×33×3 平面,而必须覆盖输入的全部三个通道。

因此,对某个输出通道来说,它实际拥有三个 3×33×3 权重切片。计算一个空间位置时,三个切片分别与 R、G、B 的局部区域逐元素相乘并求和,随后把三个通道的结果再次相加,再加上该输出通道的偏置,最终得到一个标量。

当卷积核移动到下一个空间位置时,这整套跨通道权重一起移动,而不是让三个输入通道各自产生互不相关的最终输出。

多输入通道聚合为卷积输出通道

一个输出通道为什么要看全部输入通道

进入网络较深位置后,“通道”通常已经不再对应 RGB,而是不同类型的特征响应。例如某些通道可能对水平边缘敏感,另一些通道可能对纹理或颜色组合敏感。下一层若只能逐通道独立计算,就很难把这些特征组合成更高级的模式。

标准卷积因此采用密集的通道连接:每个输出通道都拥有覆盖全部 CinC_{in} 个输入通道的权重。若卷积核空间尺寸为 Kh×KwK_h×K_w,那么一个输出通道需要的权重形状可以写成:

Kh×Kw×CinK_h×K_w×C_{in}

如果这一层需要 CoutC_{out} 个输出通道,就需要 CoutC_{out} 组这样的权重,因此总权重数量为:

Kh×Kw×Cin×CoutK_h×K_w×C_{in}×C_{out}

再考虑每个输出通道一个偏置,完整参数量为:

Kh×Kw×Cin×Cout+CoutK_h×K_w×C_{in}×C_{out}+C_{out}

例如输入有 3 个通道,使用 3×33×3 卷积并产生 8 个输出通道,参数量就是 3×3×3×8+8=2243×3×3×8+8=224。

用 1×1 卷积看懂通道聚合

1×11×1 卷积省去了空间邻域,很适合观察通道计算。假设某个位置的三个输入通道数值为 [2,−1,3][2,-1,3]。第一个输出通道的权重为 [0.5,1,−0.5][0.5,1,-0.5],偏置为 0.20.2,则结果是:

(2×0.5+(-1)×1+3×(-0.5)+0.2=-1.3)

如果第二个输出通道使用另一组权重 [1,0.25,0.5][1,0.25,0.5],偏置为 −0.1-0.1,同一个输入位置会得到:

(2×1+(-1)×0.25+3×0.5-0.1=3.15)

这说明两个容易混淆的关系:一个输出通道会聚合所有输入通道,而多个输出通道则通过不同的权重组合,从同一批输入特征中提取不同信息。

看懂权重张量的四个维度

卷积权重通常有四个核心维度:输出通道、输入通道、卷积核高度和卷积核宽度。不同框架只是排列顺序不同,数学含义并没有改变。

表示方式 常见权重形状 含义
PyTorch $[C_{out}, C_{in}, K_h, K_w]$ 先选择输出通道,再选择其连接的输入通道和二维核
TensorFlow/Keras $[K_h, K_w, C_{in}, C_{out}]$ 先表示二维核,再列出输入与输出通道

例如 Cin=3C_{in}=3、Cout=8C_{out}=8、卷积核为 3×33×3 时,PyTorch 风格的权重形状是 [8,3,3,3][8,3,3,3],而 TensorFlow/Keras 风格是 [3,3,3,8][3,3,3,8]。两者都包含 216216 个卷积权重,只是轴顺序不同。

用形状检查常见误解

最常见的错误,是看到 3×33×3 卷积就认为一个卷积核永远只有 9 个参数。只有输入恰好是单通道时才如此;输入有 CinC_{in} 个通道时,一个输出通道实际拥有 3×3×Cin3×3×C_{in} 个权重。

另一个误解是认为“3 个输入通道经过卷积就应该得到 3 个输出通道”。输出通道数并不由输入通道数自动决定,而是网络设计时单独指定。输入可以有 3 个通道,输出可以是 8、32、64 或其他数量。

看到一个普通卷积层时,可以按固定顺序检查:先确定 CinC_{in},再确定每个输出通道需要覆盖的空间核大小,最后乘上 CoutC_{out}。只要记住“空间位置上共享参数,通道方向上完成聚合”,多通道卷积的权重形状和参数量就不会混乱。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

看清通道如何参与卷积计算

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通