计算机视觉 / 系统课时
选择预训练模型
选择预训练模型
预训练模型不是越大越好。合适的起点应同时满足数据规模、训练硬件和最终部署约束,并且能用同一套验证条件进行比较。本节把“选哪个模型”拆成可执行的筛选流程:先缩小候选范围,再用短基线训练验证精度、速度和资源占用。
学习目标
- 根据数据量、显存和部署目标缩小预训练模型候选范围
- 用统一训练条件比较两个候选模型,而不是凭模型大小做决定
- 根据精度、延迟、模型体积和稳定性确定最终基线
先把约束翻译成选择条件
模型规格主要影响三件事:容量、计算量和占用资源。数据较少时,较小的预训练模型通常更容易快速建立稳定基线;数据量和场景复杂度增加后,更大模型才更可能把额外容量转化为有效精度。
硬件决定“能不能稳定训练”,部署目标决定“训练出来能不能用”。如果最终运行在边缘设备、CPU 或严格实时链路中,推理延迟和模型体积应提前进入筛选条件;如果部署在 GPU 服务端且精度优先,可以保留更大的候选规格。
| 主要约束 | 优先候选 | 需要重点验证 |
|---|---|---|
| 数据较少、先建立基线 | 小规格 | 是否已满足基本精度 |
| 显存紧张或训练时间有限 | 小规格 | batch 是否稳定、是否频繁 OOM |
| 实时或边缘部署 | 小到中规格 | 单张延迟、模型体积 |
| 精度优先且算力充足 | 中到大规格 | 精度增益是否值得额外成本 |
这张表只用于初筛,不是固定规则。同一“规格”在不同 YOLO 实现中参数量和速度都可能不同,最终应以你实际使用的 checkpoint 和部署后端测试结果为准。
用候选集合代替一次押注
比较模型时,最容易犯的错误是同时改变模型、图像尺寸、epoch、数据增强和 batch,最后无法判断差异来自哪里。更稳妥的方法是只挑两个相邻规格,保持数据划分、输入尺寸、训练轮数和主要超参数一致,先做一次短基线。
下面以支持 yolo detect train 的 Ultralytics CLI 为例。把 <PATH> 替换为本机实际路径,并让 small.pt、medium.pt 指向你准备比较的两个预训练权重。
set -euo pipefail
DATA="<PATH>/data.yaml"
PROJECT="<PATH>/runs/model-choice"
SMALL="<PATH>/checkpoints/small.pt"
MEDIUM="<PATH>/checkpoints/medium.pt"
for SPEC in small medium; do
if [ "$SPEC" = "small" ]; then
MODEL="$SMALL"
else
MODEL="$MEDIUM"
fi
yolo detect train \
model="$MODEL" \
data="$DATA" \
epochs=20 \
imgsz=640 \
batch=8 \
project="$PROJECT" \
name="$SPEC"
test -f "$PROJECT/$SPEC/weights/best.pt"
echo "$SPEC: best.pt ready"
done预期输出中至少应出现:
small: best.pt ready
medium: best.pt ready训练日志中的具体指标、耗时和显存值会因硬件、数据集与软件版本不同而变化。若某个候选出现 OOM,不要先改一堆参数再继续比较;先降低 batch,使两个候选都能稳定完成同条件实验,再记录它们各自的资源占用。
按同一张评分表做决定
短基线结束后,把两个候选放到同一张表里。精度指标应使用同一个验证集;延迟应在相同设备、相同输入尺寸和相同 batch 下测试;模型体积与峰值显存也要在同一环境记录。
选择时可以按部署目标排序:实时系统先淘汰延迟不达标的模型,再在剩余候选中选精度更高者;离线精度优先任务则可以先比较验证集精度,再判断额外训练和部署成本是否可接受。
如果更大模型只带来很小的精度提升,却显著增加显存、推理时间或模型体积,通常不值得作为默认基线。相反,如果较小模型已经明显欠拟合,且更大模型在相同数据上稳定提升关键指标,就有理由保留更大规格继续训练。
避免三个常见误区
不要把“参数更多”直接等同于“效果更好”。数据质量不足、标注不一致或验证集分布不合理时,大模型也会把问题一起放大。
不要只看训练集损失选模型。真正决定部署价值的是独立验证数据上的表现,以及真实设备上的延迟和资源占用。
也不要一开始就把候选范围铺得过大。先用两个相邻规格建立可比较基线,确认瓶颈到底是模型容量、数据还是部署资源,再决定是否继续向更大或更小规格扩展,通常比盲目遍历所有型号更省时间。