机器学习与深度学习 / 系统课时

手算一次二维卷积

手算一次二维卷积

这一节只做一件事:把一个 2×2 卷积核放到 4×4 输入上逐格滑动,亲手算出每个输出值。通过局部窗口、逐元素乘法、求和和偏置四个动作,你会建立与深度学习框架中 Conv2d 一致的计算直觉。

学习目标

  • 能从输入、卷积核、步幅和填充推导二维卷积的输出尺寸。
  • 能手算单个位置以及完整输出特征图。
  • 能区分深度学习框架常用的交叉相关计算与数学定义中的核翻转卷积。

把卷积化成局部乘加

设步幅 stride=1、填充 padding=0,输入和卷积核为:

X=[1201312201312210],K=[10−11],b=1X=\begin{bmatrix} 1&2&0&1\\ 3&1&2&2\\ 0&1&3&1\\ 2&2&1&0 \end{bmatrix}, \quad K=\begin{bmatrix} 1&0\\ -1&1 \end{bmatrix}, \quad b=1

卷积核大小是 2×2。在深度学习框架常见的 Conv2d 语义下,核不会先做上下左右翻转,因此每个输出位置都是当前 2×2 窗口与 K 的逐元素乘积之和,再加一次偏置:

Yi,j=b+∑u=01∑v=01Xi+u,j+vKu,vY_{i,j}=b+\sum_{u=0}^{1}\sum_{v=0}^{1}X_{i+u,j+v}K_{u,v}

输入边长为 4、核边长为 2,所以不填充、步幅为 1 时,输出边长是 (4-2)/1+1=3,最终得到 3×3 特征图。

沿输入窗口滑完整张图

左上角位置使用输入窗口 [[1,2],[3,1]]。逐元素相乘并加偏置:

Y0,0=1×1+2×0+3×(−1)+1×1+1=0Y_{0,0}=1\times1+2\times0+3\times(-1)+1\times1+1=0

向右移动一格,窗口变成 [[2,0],[1,2]]:

Y0,1=2×1+0×0+1×(−1)+2×1+1=4Y_{0,1}=2\times1+0\times0+1\times(-1)+2\times1+1=4

二维卷积核在输入矩阵上的滑动与输出映射

把同样动作继续覆盖 9 个合法位置,完整结果是:

Y=[041541113]Y=\begin{bmatrix} 0&4&1\\ 5&4&1\\ 1&1&3 \end{bmatrix}

这里的“卷积核共享”也变得直观:九个输出位置都使用同一组 K 参数,只是读取了输入中的不同局部窗口。

用 Python 复核手算结果

下面用最直接的双重循环复现同一个计算。代码没有调用深度学习框架,便于把循环索引和手算位置一一对应。

python
x = [
    [1, 2, 0, 1],
    [3, 1, 2, 2],
    [0, 1, 3, 1],
    [2, 2, 1, 0],
]
kernel = [
    [1, 0],
    [-1, 1],
]
bias = 1

output = []
for i in range(3):
    row = []
    for j in range(3):
        # 当前窗口左上角是 (i, j),四个位置共享同一组核权重。
        value = bias
        for u in range(2):
            for v in range(2):
                value += x[i + u][j + v] * kernel[u][v]
        row.append(value)
    output.append(row)

for row in output:
    print(*row)

预期输出

text
0 4 1
5 4 1
1 1 3

如果程序结果与手算不同,优先检查窗口起点 (i,j)、核索引 (u,v) 和偏置是否只在每个输出位置加一次,而不是先怀疑框架内部存在特殊规则。

三个最容易算错的边界

  • 偏置的次数:一个输出元素完成所有乘加后只加一次 b,不是每个乘积都加一次。
  • 步幅与填充:本例固定为 stride=1、padding=0;改变它们会改变可访问窗口和输出尺寸,但不会改变单个窗口内部的乘加规则。
  • “卷积”名称:经典数学卷积会翻转卷积核,而多数深度学习卷积层实际执行的是不翻核的交叉相关。学习 CNN 时按框架的 Conv2d 定义计算即可。

真正需要记住的不是这组数字,而是同一个局部算子在不同位置重复工作:选窗口、逐元素乘、求和、加偏置、写入一个输出位置。后续增加通道数和卷积核数量时,本质仍是这套局部乘加,只是同时累加更多输入通道并生成更多输出通道。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

手算一次二维卷积

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通