机器学习与深度学习 / 系统课时

卷积层参数

卷积层参数

本课聚焦 torch.nn.Conv2d 的关键参数,解决“为什么输出尺寸会变化”这一常见问题。你将掌握卷积核、步幅、填充、扩张和分组的作用,并通过可运行代码验证不同配置产生的输出形状。

学习目标

  • 根据卷积参数计算输出高度和宽度
  • 区分 kernel_size、stride、padding、dilation 和 groups 的职责
  • 识别分组卷积的通道约束与典型用法

输出形状如何计算

对于输入高度 HinH_{in},卷积后的输出高度为:

Hout=⌊Hin+2P−D(K−1)−1S+1⌋H_{out}=\left\lfloor\frac{H_{in}+2P-D(K-1)-1}{S}+1\right\rfloor

其中,KK 是卷积核大小,SS 是步幅,PP 是填充,DD 是扩张率。宽度使用同一公式独立计算。输出通道数不由该公式决定,而是直接等于 out_channels。

当 stride=1、dilation=1 且卷积核为奇数时,设置 padding=(kernel_size-1)/2 通常可以保持空间尺寸不变。只要步幅大于 1,输出尺寸通常仍会缩小。

卷积参数对感受野与输出尺寸的影响

五个关键参数

kernel_size 决定一次观察的局部窗口大小。卷积核越大,单层覆盖范围越广,但参数量和计算量也会增加。实际网络常用多个 3×3 卷积叠加,以逐步扩大感受野。

stride 决定卷积核每次移动的距离。步幅为 2 时,输出高度和宽度通常约减半,因此它常用于下采样。

padding 在输入边缘补值,默认补 0。合理填充可以保留边缘信息,也可以控制输出尺寸。

dilation 决定卷积核采样点之间的间隔。扩张率增大时,卷积核参数数量不变,但有效覆盖范围扩大。有效卷积核大小为 dilation × (kernel_size - 1) + 1。

groups 控制输入通道与输出通道的连接方式。groups=1 表示普通卷积;当 groups=in_channels 且 out_channels 是输入通道数的整数倍时,可形成深度卷积。

用代码验证参数效果

下面对同一个 (1, 4, 8, 8) 输入应用四种卷积配置,只比较输出形状,不涉及训练。

python
import torch
from torch import nn

x = torch.zeros(1, 4, 8, 8)

layers = {
    "base": nn.Conv2d(4, 6, kernel_size=3),
    "stride_padding": nn.Conv2d(4, 6, kernel_size=3, stride=2, padding=1),
    "dilation": nn.Conv2d(4, 6, kernel_size=3, padding=2, dilation=2),
    # 每个输入通道独立卷积,是最常见的深度卷积配置
    "depthwise": nn.Conv2d(4, 4, kernel_size=3, padding=1, groups=4),
}

for name, layer in layers.items():
    print(f"{name}: {tuple(layer(x).shape)}")

预期输出:

text
base: (1, 6, 6, 6)
stride_padding: (1, 6, 4, 4)
dilation: (1, 6, 8, 8)
depthwise: (1, 4, 8, 8)

基础卷积没有填充,所以 8×8 变为 6×6。第二层使用步幅 2 和填充 1,空间尺寸变为 4×4。第三层的有效卷积核为 5×5,同时填充 2,因此仍保持 8×8。深度卷积保持空间尺寸,但输出通道数由 out_channels=4 决定。

参数约束与常见错误

in_channels 和 out_channels 都必须能被 groups 整除,否则创建卷积层时会报错。分组数也不是越大越好:连接减少会降低计算量,但同时限制不同通道之间的信息融合。

计算输出形状时,最常见的错误是忽略扩张后的有效卷积核大小,或把填充只加一次。公式中的 2P 表示上下两侧或左右两侧各补 P 个位置。

需要严格保持尺寸时,应同时核对卷积核奇偶性、步幅和扩张率。对于复杂配置,先用公式估算,再通过一个虚拟张量运行层并打印 shape,是最可靠的验证方式。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

卷积层参数

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通