机器学习与深度学习 / 系统课时

设计增强策略提升模型泛化

设计增强策略提升模型泛化

图像增强不是把样本“变得越多越好”,而是用不会改变标签含义的随机变换扩展训练分布。本节用裁剪、翻转和颜色扰动构建一套可执行的训练增强,并说明哪些变换应该拒绝,以及如何通过固定验证集的对照实验确认增强确实改善泛化。

学习目标

  • 能把增强拆成几何变化、颜色变化和标准化,并只放在训练数据管线中。
  • 能根据标签语义判断某个变换是否安全,而不是机械套用增强列表。
  • 能用同一数据划分和训练设置做消融对照,判断增强是否带来真实验证收益。

从标签语义反推增强边界

增强是否合理,判断标准只有一个:变换后,人类是否仍会给出同一个标签。普通物体分类中,适度随机裁剪、水平翻转和轻微颜色抖动通常能模拟拍摄位置、视角和光照变化;但极端裁剪可能把主体完全移出画面,强烈色相变化也可能破坏依赖颜色区分类别的任务。

方向本身也是语义的一部分时要更谨慎。例如区分左转与右转标志时,水平翻转会直接改变类别;识别数字 6 与 9 时,旋转也可能改变含义。增强策略必须服从具体任务,而不能从别的项目原样复制。

从标签语义判断增强是否可用的流程

构建训练与验证两套预处理

训练集需要随机性,验证集则必须稳定。否则每次验证都在看不同输入,指标波动会掩盖模型本身的变化。下面使用 torchvision.transforms 构造两套预处理,并对同一张合成图像重复增强,验证输出尺寸保持一致。

python
import torch
from PIL import Image
from torchvision import transforms

torch.manual_seed(7)

train_transform = transforms.Compose([
    transforms.RandomResizedCrop(224, scale=(0.7, 1.0)),
    transforms.RandomHorizontalFlip(p=0.5),
    transforms.ColorJitter(
        brightness=0.2,
        contrast=0.2,
        saturation=0.2
    ),
    transforms.ToTensor(),
    transforms.Normalize(
        mean=[0.485, 0.456, 0.406],
        std=[0.229, 0.224, 0.225]
    ),
])

eval_transform = transforms.Compose([
    transforms.Resize(256),
    transforms.CenterCrop(224),
    transforms.ToTensor(),
    transforms.Normalize(
        mean=[0.485, 0.456, 0.406],
        std=[0.229, 0.224, 0.225]
    ),
])

image = Image.new("RGB", (320, 240), color=(120, 160, 200))

for i in range(3):
    tensor = train_transform(image)
    print(f"train_{i}: shape={tuple(tensor.shape)}")

eval_tensor = eval_transform(image)
print(f"eval: shape={tuple(eval_tensor.shape)}")

预期输出

text
train_0: shape=(3, 224, 224)
train_1: shape=(3, 224, 224)
train_2: shape=(3, 224, 224)
eval: shape=(3, 224, 224)

三次训练张量尺寸相同,但随机裁剪、翻转和颜色扰动的具体结果可能不同。验证预处理没有随机增强,因此同一输入应得到稳定结果。

用强度而不是数量控制增强

增强过弱时,模型看到的训练分布几乎没有变化;增强过强时,输入会偏离真实数据,甚至破坏标签。小样本任务适合从少量、可解释的变换开始,再一次只增加一种变化,例如先加入裁剪和翻转,再观察颜色扰动是否继续带来收益。

对迁移学习模型还要保持输入尺寸和标准化与预训练权重要求一致。几何与颜色增强发生在标准化之前,标准化负责把最终张量映射到模型熟悉的数值分布。

用消融实验确认泛化收益

判断增强是否有效时,只改变增强策略,其余条件保持一致:训练/验证划分相同、随机种子相同、骨干和解冻范围相同、优化器与训练轮数相同。先训练无增强基线,再训练增强版本,比较最佳验证指标以及训练集与验证集之间的差距。

如果增强版训练准确率略低但验证准确率更高,通常说明模型减少了对训练样本细节的记忆,泛化能力变好;如果训练和验证都明显下降,说明增强过强或不符合真实分布;如果验证指标几乎不变,则继续堆叠更多变换的价值有限。

增强策略的目标不是制造“更难”的图片,而是覆盖部署时可能出现、同时又不改变标签语义的合理变化。先从最可信的变换开始,再用固定验证集做对照,是小样本分类中比盲目增加增强种类更可靠的做法。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

设计增强策略提升模型泛化

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通