机器学习与深度学习 / 系统课时

构建图像分类网络

构建图像分类网络

这一课把卷积层、池化层和分类头组合成一个能真正训练的 PyTorch 图像分类器。我们使用 3×32×32 的 RGB 图像和 10 个类别跑通前向传播、损失计算、反向传播与参数更新,并检查网络输出形状是否正确。

学习目标

  • 能根据输入尺寸安排卷积、池化和分类头,并得到 [N, 10] 的分类 logits。
  • 能使用 nn.CrossEntropyLoss 完成一次完整训练步骤。
  • 能通过张量形状和参数量快速发现分类网络的结构错误。

先固定输入与输出约定

PyTorch 卷积网络默认使用 NCHW 布局。本课约定输入为 [N, 3, 32, 32]:N 是批大小,3 是 RGB 通道,后两个维度是高度和宽度。10 分类模型最终必须输出 [N, 10],每个位置保存一个类别的原始分数,也就是 logits。

训练时标签不需要独热编码。nn.CrossEntropyLoss 接收 [N, 10] logits 和 [N] 的整数标签,标签类型应为 torch.long,值域为 0 到 9。不要先对 logits 调用 softmax 再传给这个损失函数,因为 CrossEntropyLoss 已经按数值稳定的方式完成对应计算。

组合卷积特征与分类头

一个适合练习的小网络可以采用 3 → 32 → 64 的通道扩展。第一组 Conv2d 保持空间尺寸为 32×32,随后 MaxPool2d(2) 将其缩小到 16×16;第二组卷积继续提取 64 通道特征,最后使用 AdaptiveAvgPool2d((1, 1)) 压成每通道一个值,再交给 Linear(64, 10) 分类。

卷积、池化与分类头组成图像分类网络

这里使用自适应平均池化而不是把 64×16×16 直接写死进全连接层。这样分类头只依赖通道数 64,即使以后把输入图片从 32×32 调整成 64×64,只要前面的卷积仍能正常处理,Linear(64, 10) 就不需要重新计算输入特征数。

跑通一次完整训练步骤

下面的程序只依赖 PyTorch。随机生成 4 张图片和 4 个标签,完成一次 zero_grad → forward → loss → backward → step,同时验证输出形状和参数数量。

python
import torch
from torch import nn


class ImageClassifier(nn.Module):
    def __init__(self, num_classes: int = 10):
        super().__init__()
        self.features = nn.Sequential(
            nn.Conv2d(3, 32, kernel_size=3, padding=1),
            nn.ReLU(),
            nn.MaxPool2d(kernel_size=2),
            nn.Conv2d(32, 64, kernel_size=3, padding=1),
            nn.ReLU(),
            nn.AdaptiveAvgPool2d((1, 1)),
        )
        self.classifier = nn.Linear(64, num_classes)

    def forward(self, x: torch.Tensor) -> torch.Tensor:
        x = self.features(x)
        x = torch.flatten(x, start_dim=1)
        return self.classifier(x)


def main():
    torch.manual_seed(0)
    model = ImageClassifier(num_classes=10)
    optimizer = torch.optim.Adam(model.parameters(), lr=1e-3)
    criterion = nn.CrossEntropyLoss()

    images = torch.randn(4, 3, 32, 32)
    labels = torch.tensor([0, 1, 2, 3], dtype=torch.long)

    model.train()
    optimizer.zero_grad()
    logits = model(images)
    loss = criterion(logits, labels)
    loss.backward()
    optimizer.step()

    parameter_count = sum(p.numel() for p in model.parameters())
    print("logits shape:", tuple(logits.shape))
    print("loss is finite:", torch.isfinite(loss).item())
    print("parameter count:", parameter_count)


if __name__ == "__main__":
    main()

预期输出

text
logits shape: (4, 10)
loss is finite: True
parameter count: 20042

20042 个参数来自两层卷积和一个全连接层。这个数字很适合做结构检查:如果只是修改了批大小,参数量不应该变化;如果改了卷积通道数或类别数,参数量才会随之变化。

用形状检查常见结构错误

最常见的问题不是代码无法执行,而是张量尺寸在分类头前失去控制。下面几项可以作为每次改网络后的固定检查。

检查项 正确做法 常见错误
分类输出 10 类得到 [N, 10] 最后一层仍输出 64 个特征
损失输入 直接把 logits 交给 CrossEntropyLoss 先 softmax 再计算交叉熵
标签 torch.long,形状 [N] 使用浮点类别编号或 [N, 1]
分类头尺寸 用 AdaptiveAvgPool2d((1, 1)) 固定为 64 维 手算错误的 H×W 导致 Linear 尺寸不匹配

实际项目中还应在推理前执行 model.eval(),并配合 torch.no_grad() 或 torch.inference_mode()。网络搭建完成后的最低验收标准是:随机批次能得到正确的 [N, num_classes] 输出、损失为有限值,并且一次反向传播和优化器更新能够无异常完成。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

构建图像分类网络

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通