机器学习与深度学习 / 系统课时

加载预训练模型

加载预训练模型

加载预训练模型不只是调用一个构造函数,还要让网络结构、权重版本和输入预处理保持一致。本课将用 ResNet-18 完成加载、预处理和一次前向验证,得到可继续迁移的模型基线。

学习目标

  • 使用 Torchvision 的权重枚举加载预训练 ResNet-18
  • 从权重对象取得与模型匹配的输入预处理流程
  • 通过输入、输出形状验证模型是否可以正常运行

加载前的准备

示例要求环境中已经安装兼容版本的 torch 与 torchvision。首次加载默认权重时需要联网下载文件,之后通常会从本地缓存读取;下载进度和缓存路径会因系统而不同。

不要把“网络结构”和“预训练权重”视为两个可以随意组合的对象。权重枚举不仅标识参数版本,还附带类别信息和推荐预处理。resnet18 通过 weights 参数接收 ResNet18_Weights,传入 None 时才使用随机初始化。

模型、权重与预处理的关系

预训练模型的加载与验证流程

ResNet18_Weights.DEFAULT 选择推荐的预训练权重,resnet18(weights=weights) 创建匹配的网络并加载参数,weights.transforms() 则返回对应的缩放、裁剪和归一化流程。三者保持同一权重定义,可以避免手工填写输入规范时产生偏差。

完整加载与前向验证

下面的程序生成一张随机 RGB 图像,使用权重自带的预处理转换成批次张量,再执行一次推理。随机图像只用于检查运行链路,不用于评价预测是否正确。

python
import torch
from torchvision.models import ResNet18_Weights, resnet18

def main() -> None:
    weights = ResNet18_Weights.DEFAULT
    model = resnet18(weights=weights)
    model.eval()

    # 使用权重绑定的预处理,避免尺寸和归一化参数不匹配
    preprocess = weights.transforms()
    sample_image = torch.rand(3, 300, 400)
    batch = preprocess(sample_image).unsqueeze(0)

    # 这里只验证前向链路,不需要记录梯度
    with torch.inference_mode():
        logits = model(batch)

    print(f"model={type(model).__name__}")
    print(f"classes={len(weights.meta['categories'])}")
    print(f"input_shape={tuple(batch.shape)}")
    print(f"output_shape={tuple(logits.shape)}")

if __name__ == "__main__":
    main()

预期输出如下。首次运行时,前面可能额外出现权重下载进度。

text
model=ResNet
classes=1000
input_shape=(1, 3, 224, 224)
output_shape=(1, 1000)

输出形状 (1, 1000) 表示当前批次包含 1 张图片,模型仍保留预训练任务的 1000 类输出层。后续迁移到自己的类别时,需要替换最后的全连接层。

检查输入规范

示例中的原始张量形状是 (3, 300, 400),预处理后变为 (1, 3, 224, 224)。最前面的 1 是批次维度,3 是 RGB 通道,后两个维度是模型实际接收的高和宽。

对于手工创建的浮点张量,应保证通道顺序是 RGB,数值处于合理图像范围。真实项目可以把 PIL 图片或读取后的张量交给同一个预处理对象,但不要先自行归一化后再重复执行 weights.transforms()。

关键边界与验证方法

将 weights 改成 None 仍能创建 ResNet-18,但参数会随机初始化,这不属于加载预训练模型。推理前调用 model.eval() 可以让批归一化和随机失活等层进入评估行为,torch.inference_mode() 则避免建立梯度记录。

若把模型移动到 GPU,输入批次也必须移动到同一设备。加载完成后至少检查模型类型、预处理后的输入形状和输出类别维度;这三个结果正确,才能继续替换分类头或冻结参数。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

加载预训练模型

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通