大模型应用开发 / 系统课时

判断 RAG 的适用边界

判断 RAG 的适用边界

RAG 并不是解决所有 AI 应用问题的唯一方案。本节将通过对比 RAG、模型微调、长上下文和工具调用,帮助你判断什么时候应该建设知识库,什么时候应该选择其他技术路径。

学习目标

  • 理解 RAG 与其他增强模型能力方案的区别。
  • 掌握知识库项目的适用场景和限制。
  • 能够根据业务需求选择合适的技术方案。

RAG 适合解决什么问题

RAG 最适合处理“模型需要访问外部知识,但这些知识会变化或属于私有数据”的场景。例如企业制度文档、产品手册、客服知识库和技术文档查询。

这类场景的共同特点是答案主要来自已有资料,系统需要快速更新知识,而不是重新训练模型。

一个简单的判断方式是:如果问题的答案存在于某批文档中,并且希望文档更新后立即生效,通常优先考虑 RAG。

RAG 与其他方案对比

方案 主要目标 知识更新方式 典型场景
RAG 提供外部知识参考 更新知识库 企业文档问答
微调 改变模型行为和表达方式 重新训练参数 固定风格任务
长上下文 一次输入更多内容 调整输入规模 大文档分析
工具调用 执行外部操作 调用实时服务 查询订单、执行任务

RAG 关注的是“找到正确资料”,微调关注的是“改变模型能力表现”。例如让模型学会固定格式输出,更适合微调;让模型回答最新产品政策,更适合 RAG。

判断流程

可以先判断业务需求的数据来源。如果答案来自不断变化的外部资料,应优先考虑 RAG。如果需求是让模型形成固定行为模式,则可以考虑微调。

如果任务需要实时查询系统状态,例如库存、订单或天气,则工具调用通常比 RAG 更合适,因为工具可以直接访问实时数据。

python
need = "查询最新产品退款政策"

if need == "查询最新产品退款政策":
    solution = "RAG"
elif need == "改变模型回答风格":
    solution = "微调"
else:
    solution = "工具调用或其他方案"

print(solution)

预期输出

text
RAG

RAG 的限制边界

RAG 依赖检索质量。如果知识库中没有相关内容,或者检索结果不准确,模型仍然无法可靠回答。

同时,RAG 不会自动解决复杂推理问题。即使提供了正确资料,模型仍可能需要具备足够的推理能力才能完成多步骤分析。

对于极长文档,简单增加上下文长度也不一定有效,需要结合文档切分、摘要、分层检索等策略优化。

方案选择建议

实际项目中经常组合使用多种技术。例如客服系统可以使用 RAG 提供产品知识,工具调用查询订单状态,再通过微调统一回复格式。

技术选择的关键不是追求某一种方案,而是明确问题来源:需要新知识时补充知识,需要新行为时调整模型,需要实时数据时连接工具。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

判断 RAG 的适用边界

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通