计算机视觉 / 系统课时

选择预训练模型

选择预训练模型

预训练模型不是越大越好。合适的起点应同时满足数据规模、训练硬件和最终部署约束,并且能用同一套验证条件进行比较。本节把“选哪个模型”拆成可执行的筛选流程:先缩小候选范围,再用短基线训练验证精度、速度和资源占用。

学习目标

  • 根据数据量、显存和部署目标缩小预训练模型候选范围
  • 用统一训练条件比较两个候选模型,而不是凭模型大小做决定
  • 根据精度、延迟、模型体积和稳定性确定最终基线

先把约束翻译成选择条件

模型规格主要影响三件事:容量、计算量和占用资源。数据较少时,较小的预训练模型通常更容易快速建立稳定基线;数据量和场景复杂度增加后,更大模型才更可能把额外容量转化为有效精度。

硬件决定“能不能稳定训练”,部署目标决定“训练出来能不能用”。如果最终运行在边缘设备、CPU 或严格实时链路中,推理延迟和模型体积应提前进入筛选条件;如果部署在 GPU 服务端且精度优先,可以保留更大的候选规格。

主要约束 优先候选 需要重点验证
数据较少、先建立基线 小规格 是否已满足基本精度
显存紧张或训练时间有限 小规格 batch 是否稳定、是否频繁 OOM
实时或边缘部署 小到中规格 单张延迟、模型体积
精度优先且算力充足 中到大规格 精度增益是否值得额外成本

这张表只用于初筛,不是固定规则。同一“规格”在不同 YOLO 实现中参数量和速度都可能不同,最终应以你实际使用的 checkpoint 和部署后端测试结果为准。

用候选集合代替一次押注

比较模型时,最容易犯的错误是同时改变模型、图像尺寸、epoch、数据增强和 batch,最后无法判断差异来自哪里。更稳妥的方法是只挑两个相邻规格,保持数据划分、输入尺寸、训练轮数和主要超参数一致,先做一次短基线。

下面以支持 yolo detect train 的 Ultralytics CLI 为例。把 <PATH> 替换为本机实际路径,并让 small.pt、medium.pt 指向你准备比较的两个预训练权重。

bash
set -euo pipefail

DATA="<PATH>/data.yaml"
PROJECT="<PATH>/runs/model-choice"
SMALL="<PATH>/checkpoints/small.pt"
MEDIUM="<PATH>/checkpoints/medium.pt"

for SPEC in small medium; do
  if [ "$SPEC" = "small" ]; then
    MODEL="$SMALL"
  else
    MODEL="$MEDIUM"
  fi

  yolo detect train \
    model="$MODEL" \
    data="$DATA" \
    epochs=20 \
    imgsz=640 \
    batch=8 \
    project="$PROJECT" \
    name="$SPEC"

  test -f "$PROJECT/$SPEC/weights/best.pt"
  echo "$SPEC: best.pt ready"
done

预期输出中至少应出现:

text
small: best.pt ready
medium: best.pt ready

训练日志中的具体指标、耗时和显存值会因硬件、数据集与软件版本不同而变化。若某个候选出现 OOM,不要先改一堆参数再继续比较;先降低 batch,使两个候选都能稳定完成同条件实验,再记录它们各自的资源占用。

按同一张评分表做决定

短基线结束后,把两个候选放到同一张表里。精度指标应使用同一个验证集;延迟应在相同设备、相同输入尺寸和相同 batch 下测试;模型体积与峰值显存也要在同一环境记录。

选择时可以按部署目标排序:实时系统先淘汰延迟不达标的模型,再在剩余候选中选精度更高者;离线精度优先任务则可以先比较验证集精度,再判断额外训练和部署成本是否可接受。

如果更大模型只带来很小的精度提升,却显著增加显存、推理时间或模型体积,通常不值得作为默认基线。相反,如果较小模型已经明显欠拟合,且更大模型在相同数据上稳定提升关键指标,就有理由保留更大规格继续训练。

避免三个常见误区

不要把“参数更多”直接等同于“效果更好”。数据质量不足、标注不一致或验证集分布不合理时,大模型也会把问题一起放大。

不要只看训练集损失选模型。真正决定部署价值的是独立验证数据上的表现,以及真实设备上的延迟和资源占用。

也不要一开始就把候选范围铺得过大。先用两个相邻规格建立可比较基线,确认瓶颈到底是模型容量、数据还是部署资源,再决定是否继续向更大或更小规格扩展,通常比盲目遍历所有型号更省时间。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

选择预训练模型

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通