大模型应用开发 / 系统课时
RAG 与微调的选择
RAG 与微调的选择
这节课解决一个常见决策:面对知识更新、回答格式、领域能力和成本约束时,应该优先使用提示词工程、RAG,还是模型微调。学完后,你能根据目标快速选型,并知道三者如何组合,而不是把所有问题都交给同一种方案。
学习目标
- 区分提示词工程、RAG 与微调各自解决的问题
- 根据更新频率、成本和效果要求选择方案
- 设计三种方法组合使用的落地顺序
三种方法分别改变什么
提示词工程不改变模型参数,也不额外建立知识库,而是通过系统提示、示例和输出约束,引导模型更稳定地完成任务。它适合先验证需求,因为实施最快、成本最低,但无法可靠补充模型从未见过或频繁变化的事实。
RAG 在模型回答前检索外部资料,把相关内容放入上下文。它主要解决知识缺失、知识更新和回答可追溯问题。企业制度、产品手册、客户资料等经常变化的内容,通常优先采用 RAG。
微调通过训练样本调整模型参数,使模型更稳定地掌握特定表达方式、分类规则或任务行为。它适合改变模型“怎么做”,不适合单独承担频繁更新的事实知识。
按核心维度比较
| 维度 | 提示词工程 | RAG | 微调 |
|---|---|---|---|
| 主要目标 | 约束任务与输出 | 补充外部知识 | 固化行为与风格 |
| 知识更新 | 修改提示词 | 更新知识库即可 | 通常需要重新训练 |
| 实施成本 | 低 | 中 | 高 |
| 可追溯性 | 依赖提示内容 | 可返回来源 | 通常较弱 |
| 适合的数据 | 少量规则与示例 | 文档、数据库、业务资料 | 高质量标注样本 |
| 典型风险 | 提示过长或不稳定 | 检索错误、上下文噪声 | 过拟合、训练成本高 |
判断时先问两个问题:知识是否经常变化,以及目标是补充事实还是改变行为。经常变化的事实优先 RAG;稳定的行为模式可考虑微调;需求尚未验证时先从提示词工程开始。
选择顺序
第一步先用提示词工程完成最小可行版本,确认任务边界、输入格式和输出标准。此时不要急于训练模型,因为大量问题其实来自需求不清或提示结构混乱。
第二步检查模型是否缺少业务知识。如果答案依赖内部文档、最新政策、商品库存或用户资料,就接入 RAG,并重点评估召回率、上下文质量和引用准确性。
第三步再判断是否存在稳定、重复且难以通过提示词约束的行为问题,例如固定分类体系、统一写作风格或复杂格式生成。只有样本充足且收益明确时,才投入微调。
组合使用策略
三种方法并不互斥。常见组合是:提示词定义角色和输出规则,RAG 提供当前知识,微调提升固定任务上的一致性。例如客服系统可以用 RAG 获取最新售后政策,用提示词限定回答结构,再通过微调统一语气和意图分类方式。
不要用微调替代知识库。把价格、库存、法规等动态事实写进训练数据,会导致更新慢且难以追踪。也不要把所有行为问题都归因于检索;当资料已经正确进入上下文,模型仍频繁不按规则执行时,才应考虑微调或更强的结构化约束。
本课总结
- 提示词工程解决任务约束,RAG 解决外部知识,微调解决稳定行为
- 动态事实优先 RAG,稳定风格或任务模式才适合微调
- 实际项目通常按“提示词验证 → RAG 补知识 → 微调提一致性”的顺序推进
下一课预告
下一课将进入开发环境搭建,先确定编程语言、RAG 框架、模型服务、向量数据库和接口框架的组合。