大模型应用开发 / 系统课时

RAG 与微调的选择

RAG 与微调的选择

这节课解决一个常见决策:面对知识更新、回答格式、领域能力和成本约束时,应该优先使用提示词工程、RAG,还是模型微调。学完后,你能根据目标快速选型,并知道三者如何组合,而不是把所有问题都交给同一种方案。

学习目标

  • 区分提示词工程、RAG 与微调各自解决的问题
  • 根据更新频率、成本和效果要求选择方案
  • 设计三种方法组合使用的落地顺序

三种方法分别改变什么

提示词工程不改变模型参数,也不额外建立知识库,而是通过系统提示、示例和输出约束,引导模型更稳定地完成任务。它适合先验证需求,因为实施最快、成本最低,但无法可靠补充模型从未见过或频繁变化的事实。

RAG 在模型回答前检索外部资料,把相关内容放入上下文。它主要解决知识缺失、知识更新和回答可追溯问题。企业制度、产品手册、客户资料等经常变化的内容,通常优先采用 RAG。

微调通过训练样本调整模型参数,使模型更稳定地掌握特定表达方式、分类规则或任务行为。它适合改变模型“怎么做”,不适合单独承担频繁更新的事实知识。

按核心维度比较

维度 提示词工程 RAG 微调
主要目标 约束任务与输出 补充外部知识 固化行为与风格
知识更新 修改提示词 更新知识库即可 通常需要重新训练
实施成本 低 中 高
可追溯性 依赖提示内容 可返回来源 通常较弱
适合的数据 少量规则与示例 文档、数据库、业务资料 高质量标注样本
典型风险 提示过长或不稳定 检索错误、上下文噪声 过拟合、训练成本高

判断时先问两个问题:知识是否经常变化,以及目标是补充事实还是改变行为。经常变化的事实优先 RAG;稳定的行为模式可考虑微调;需求尚未验证时先从提示词工程开始。

选择顺序

第一步先用提示词工程完成最小可行版本,确认任务边界、输入格式和输出标准。此时不要急于训练模型,因为大量问题其实来自需求不清或提示结构混乱。

第二步检查模型是否缺少业务知识。如果答案依赖内部文档、最新政策、商品库存或用户资料,就接入 RAG,并重点评估召回率、上下文质量和引用准确性。

第三步再判断是否存在稳定、重复且难以通过提示词约束的行为问题,例如固定分类体系、统一写作风格或复杂格式生成。只有样本充足且收益明确时,才投入微调。

组合使用策略

三种方法并不互斥。常见组合是:提示词定义角色和输出规则,RAG 提供当前知识,微调提升固定任务上的一致性。例如客服系统可以用 RAG 获取最新售后政策,用提示词限定回答结构,再通过微调统一语气和意图分类方式。

不要用微调替代知识库。把价格、库存、法规等动态事实写进训练数据,会导致更新慢且难以追踪。也不要把所有行为问题都归因于检索;当资料已经正确进入上下文,模型仍频繁不按规则执行时,才应考虑微调或更强的结构化约束。

本课总结

  • 提示词工程解决任务约束,RAG 解决外部知识,微调解决稳定行为
  • 动态事实优先 RAG,稳定风格或任务模式才适合微调
  • 实际项目通常按“提示词验证 → RAG 补知识 → 微调提一致性”的顺序推进

下一课预告

下一课将进入开发环境搭建,先确定编程语言、RAG 框架、模型服务、向量数据库和接口框架的组合。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

RAG 与微调的选择

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通