大模型原理与训练 / 系统课时

区分微调与提示工程边界

区分微调与提示工程边界

同一个“大模型答不好”的现象,可能分别需要改提示词、补检索上下文或训练参数。关键不是先选训练技术,而是先判断缺的是临时指令、外部知识,还是稳定行为。本篇建立一套可复用的判断顺序,避免把本可低成本解决的问题直接送进训练流程。

学习目标

  • 根据知识、风格、格式和领域行为需求选择提示词、RAG 或参数微调
  • 判断哪些问题不值得通过训练解决
  • 理解提示工程、RAG 与微调可以组合而非互相替代

先判断模型到底缺什么

选择方案时,先把“效果不好”改写成具体缺口。若模型已经具备所需知识,只是不知道这次应该扮演什么角色、遵循哪些步骤或输出什么格式,问题通常属于临时指令不足,优先改提示词。

如果答案依赖企业文档、最新政策、商品库存或不断变化的业务数据,模型缺的是可更新的外部知识。这类事实需要能够检索、替换和追溯来源,通常应优先采用 RAG,而不是反复重新训练模型。

当需求是让模型长期稳定地形成某种回答风格、领域表达方式、决策习惯或复杂输出模式,并且这种行为要跨大量输入重复出现时,才真正进入参数微调的优势区间。

三种方案改变的位置不同

提示工程不修改模型参数,而是在一次请求的上下文里告诉模型“现在怎样做”。它成本最低、迭代最快,适合角色设定、少量示例、临时规则和能够直接描述清楚的格式要求。

RAG 同样不改变参数,但会在推理前检索相关材料并放入上下文。它适合需要新鲜度、私有性或可追溯性的知识任务,例如从当前产品手册中回答问题。知识更新时只需更新知识库,无需重新训练模型。

参数微调会让训练样本持续影响模型行为。它特别适合仅靠长提示词仍不稳定的风格迁移、领域术语习惯、固定任务行为和大量重复格式。代价是需要训练数据、计算资源、评估体系以及后续模型版本管理。

用需求类型完成第一次分流

提示工程、RAG 与参数微调的选择流程

可以把四类常见需求映射到如下判断:

需求 优先方案 原因
临时角色、步骤或少量格式约束 提示词 规则能直接放进当前上下文
最新或企业私有知识 RAG 知识需要更新、引用和权限控制
长期一致的表达风格 微调 希望行为固化并减少重复提示
稳定的领域任务行为 微调,必要时结合 RAG 行为可以训练,事实知识仍适合外部检索

一个实用原则是:**能用上下文表达的问题,先不要写进参数。**参数训练更适合改变模型长期的行为倾向,而不是充当一个难以更新的业务数据库。

避免三个常见误判

格式要求复杂并不自动意味着需要微调。若 JSON 字段很少、规则明确,而且通过结构化提示就能稳定生成,继续使用提示词通常更便宜。只有规则很多、输入变化大且错误率长期无法接受时,微调才可能降低提示长度并提升一致性。

“模型不知道公司内部资料”也不等于需要训练这些资料。将大量文档塞进训练集会带来更新困难和事实不可追溯的问题;对于会变化的事实,RAG 通常更符合工程需求。

反过来,RAG 也不能解决所有行为问题。检索能够告诉模型“有哪些资料”,却不保证模型始终采用指定语气、分类标准或复杂输出习惯。生产系统因此常采用组合方案:微调负责稳定行为,RAG 提供当前知识,提示词描述本次请求的具体约束。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

区分微调与提示工程边界

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通