计算机视觉 / 系统课时
训练自定义模型
训练自定义模型
本课用 Ultralytics YOLO 完成一次可复现的自定义数据集训练:先检查数据配置,再设置预训练权重和关键超参数,最后启动训练并确认权重、日志与指标文件已经正确生成。
学习目标
- 能配置预训练权重、输入尺寸、批次大小和训练轮次
- 能启动训练并识别训练目录中的关键产物
- 能根据显存和验证趋势处理常见训练问题
准备数据与参数
训练前必须确认图像与标签能被数据配置文件正确索引。下面的 data.yaml 假设数据集根目录为 datasets/my-dataset,类别编号从 0 开始,并与 names 的顺序一致。
# 相对路径以启动训练时的当前目录为基准
path: datasets/my-dataset
train: images/train
val: images/val
# 类别编号必须与标签文件中的编号一致
names:
0: helmet
1: person这段配置不会直接产生控制台输出。验证时应确认 images/train、images/val、labels/train 和 labels/val 均存在,且每张已标注图像都有同名的 .txt 标签文件。
本例使用 yolo11n.pt 作为预训练权重。小模型训练快、显存占用低,适合先验证数据和流程;流程稳定后,再比较更大的模型。
| 参数 | 示例值 | 调整原则 |
|---|---|---|
model |
yolo11n.pt |
先用小模型跑通,再尝试更大模型 |
imgsz |
640 |
小目标较多时可提高,但显存和耗时会增加 |
batch |
16 |
在不显存溢出的前提下保持稳定 |
epochs |
50 |
观察验证指标是否仍在提升 |
patience |
20 |
连续多轮无提升时提前停止 |
若显存不足,应先减小 batch;仍然不足时再降低 imgsz。训练轮次不应只看固定数字,还要结合验证集指标是否进入平台期判断。
启动并监控训练
下面命令假设已安装 Ultralytics,并且当前目录可以访问 data.yaml。有可用 NVIDIA GPU 时使用 device=0;仅使用 CPU 时改为 device=cpu。
# 使用预训练权重初始化,先验证数据和训练流程
# project 与 name 共同决定输出目录
yolo detect train \
model=yolo11n.pt \
data=data.yaml \
imgsz=640 \
batch=16 \
epochs=50 \
patience=20 \
device=0 \
project=runs/detect \
name=custom-v1 \
seed=42预期结果是训练完成后生成一个运行目录。实际目录名可能因同名任务自动追加编号而不同,因此以下使用 <RUN_DIR> 表示真实路径。
<RUN_DIR>/
├── weights/
│ ├── best.pt
│ └── last.pt
├── results.csv
└── results.pngbest.pt 是验证指标最优轮次的权重,通常用于推理和验收;last.pt 是最后一轮权重,主要用于断点续训。results.csv 保存逐轮指标,results.png 汇总损失和评估曲线。
监控时先看训练是否持续推进、显存是否稳定、验证指标是否改善。单轮波动很常见,应关注连续多轮趋势,而不是因某一轮下降立即修改参数。
处理问题并验收
出现显存溢出时,将 batch 从 16 依次降到 8 或 4。训练损失下降但验证指标长期不升,可能是过拟合、标注质量不足或训练集与验证集分布差异过大。训练和验证损失都下降缓慢,则可能需要更多轮次、更合适的学习率或更强模型。
训练意外中断时,可对上一次运行的 last.pt 使用 resume=True 继续训练。恢复前要确认数据配置和类别顺序没有变化,否则续训结果不可直接比较。
训练完成后至少确认 best.pt 可以正常加载,results.csv 中不存在整列空值,并且验证集的精确率、召回率和 mAP 不是长期停留在接近零的水平。若指标异常,应先抽查标签坐标、类别编号和数据划分,再调整模型或超参数。