计算机视觉 / 系统课时

训练自定义模型

训练自定义模型

本课用 Ultralytics YOLO 完成一次可复现的自定义数据集训练:先检查数据配置,再设置预训练权重和关键超参数,最后启动训练并确认权重、日志与指标文件已经正确生成。

学习目标

  • 能配置预训练权重、输入尺寸、批次大小和训练轮次
  • 能启动训练并识别训练目录中的关键产物
  • 能根据显存和验证趋势处理常见训练问题

准备数据与参数

训练前必须确认图像与标签能被数据配置文件正确索引。下面的 data.yaml 假设数据集根目录为 datasets/my-dataset,类别编号从 0 开始,并与 names 的顺序一致。

yaml
# 相对路径以启动训练时的当前目录为基准
path: datasets/my-dataset
train: images/train
val: images/val

# 类别编号必须与标签文件中的编号一致
names:
  0: helmet
  1: person

这段配置不会直接产生控制台输出。验证时应确认 images/train、images/val、labels/train 和 labels/val 均存在,且每张已标注图像都有同名的 .txt 标签文件。

本例使用 yolo11n.pt 作为预训练权重。小模型训练快、显存占用低,适合先验证数据和流程;流程稳定后,再比较更大的模型。

参数 示例值 调整原则
model yolo11n.pt 先用小模型跑通,再尝试更大模型
imgsz 640 小目标较多时可提高,但显存和耗时会增加
batch 16 在不显存溢出的前提下保持稳定
epochs 50 观察验证指标是否仍在提升
patience 20 连续多轮无提升时提前停止

若显存不足,应先减小 batch;仍然不足时再降低 imgsz。训练轮次不应只看固定数字,还要结合验证集指标是否进入平台期判断。

启动并监控训练

下面命令假设已安装 Ultralytics,并且当前目录可以访问 data.yaml。有可用 NVIDIA GPU 时使用 device=0;仅使用 CPU 时改为 device=cpu。

bash
# 使用预训练权重初始化,先验证数据和训练流程
# project 与 name 共同决定输出目录
yolo detect train \
  model=yolo11n.pt \
  data=data.yaml \
  imgsz=640 \
  batch=16 \
  epochs=50 \
  patience=20 \
  device=0 \
  project=runs/detect \
  name=custom-v1 \
  seed=42

预期结果是训练完成后生成一个运行目录。实际目录名可能因同名任务自动追加编号而不同,因此以下使用 <RUN_DIR> 表示真实路径。

text
<RUN_DIR>/
├── weights/
│   ├── best.pt
│   └── last.pt
├── results.csv
└── results.png

best.pt 是验证指标最优轮次的权重,通常用于推理和验收;last.pt 是最后一轮权重,主要用于断点续训。results.csv 保存逐轮指标,results.png 汇总损失和评估曲线。

监控时先看训练是否持续推进、显存是否稳定、验证指标是否改善。单轮波动很常见,应关注连续多轮趋势,而不是因某一轮下降立即修改参数。

处理问题并验收

出现显存溢出时,将 batch 从 16 依次降到 8 或 4。训练损失下降但验证指标长期不升,可能是过拟合、标注质量不足或训练集与验证集分布差异过大。训练和验证损失都下降缓慢,则可能需要更多轮次、更合适的学习率或更强模型。

训练意外中断时,可对上一次运行的 last.pt 使用 resume=True 继续训练。恢复前要确认数据配置和类别顺序没有变化,否则续训结果不可直接比较。

训练完成后至少确认 best.pt 可以正常加载,results.csv 中不存在整列空值,并且验证集的精确率、召回率和 mAP 不是长期停留在接近零的水平。若指标异常,应先抽查标签坐标、类别编号和数据划分,再调整模型或超参数。

按自己的节奏,确认真正理解。

目录与阅读设置

记录一个想法

训练自定义模型

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通