大模型应用开发 / 系统课时
判断 RAG 的适用边界
判断 RAG 的适用边界
RAG 并不是解决所有 AI 应用问题的唯一方案。本节将通过对比 RAG、模型微调、长上下文和工具调用,帮助你判断什么时候应该建设知识库,什么时候应该选择其他技术路径。
学习目标
- 理解 RAG 与其他增强模型能力方案的区别。
- 掌握知识库项目的适用场景和限制。
- 能够根据业务需求选择合适的技术方案。
RAG 适合解决什么问题
RAG 最适合处理“模型需要访问外部知识,但这些知识会变化或属于私有数据”的场景。例如企业制度文档、产品手册、客服知识库和技术文档查询。
这类场景的共同特点是答案主要来自已有资料,系统需要快速更新知识,而不是重新训练模型。
一个简单的判断方式是:如果问题的答案存在于某批文档中,并且希望文档更新后立即生效,通常优先考虑 RAG。
RAG 与其他方案对比
| 方案 | 主要目标 | 知识更新方式 | 典型场景 |
|---|---|---|---|
| RAG | 提供外部知识参考 | 更新知识库 | 企业文档问答 |
| 微调 | 改变模型行为和表达方式 | 重新训练参数 | 固定风格任务 |
| 长上下文 | 一次输入更多内容 | 调整输入规模 | 大文档分析 |
| 工具调用 | 执行外部操作 | 调用实时服务 | 查询订单、执行任务 |
RAG 关注的是“找到正确资料”,微调关注的是“改变模型能力表现”。例如让模型学会固定格式输出,更适合微调;让模型回答最新产品政策,更适合 RAG。
判断流程
可以先判断业务需求的数据来源。如果答案来自不断变化的外部资料,应优先考虑 RAG。如果需求是让模型形成固定行为模式,则可以考虑微调。
如果任务需要实时查询系统状态,例如库存、订单或天气,则工具调用通常比 RAG 更合适,因为工具可以直接访问实时数据。
python
need = "查询最新产品退款政策"
if need == "查询最新产品退款政策":
solution = "RAG"
elif need == "改变模型回答风格":
solution = "微调"
else:
solution = "工具调用或其他方案"
print(solution)预期输出
text
RAGRAG 的限制边界
RAG 依赖检索质量。如果知识库中没有相关内容,或者检索结果不准确,模型仍然无法可靠回答。
同时,RAG 不会自动解决复杂推理问题。即使提供了正确资料,模型仍可能需要具备足够的推理能力才能完成多步骤分析。
对于极长文档,简单增加上下文长度也不一定有效,需要结合文档切分、摘要、分层检索等策略优化。
方案选择建议
实际项目中经常组合使用多种技术。例如客服系统可以使用 RAG 提供产品知识,工具调用查询订单状态,再通过微调统一回复格式。
技术选择的关键不是追求某一种方案,而是明确问题来源:需要新知识时补充知识,需要新行为时调整模型,需要实时数据时连接工具。
按自己的节奏,确认真正理解。