大模型应用开发 / 系统课时

RAG 解决什么问题

RAG 解决什么问题

大模型能够生成流畅答案,但它并不天然掌握最新信息,也看不到企业内部资料,还可能在知识不足时生成看似合理的错误事实。RAG 的核心价值,就是在回答前先取得可用证据,再让模型基于证据完成回答。

学习目标

  • 识别知识时效性、私有数据缺失和事实幻觉三类典型问题
  • 理解 RAG 如何通过外部检索补充模型上下文
  • 判断哪些需求适合优先采用 RAG,而不是立即训练模型

大模型为什么会缺少你需要的知识

大模型生成答案时,主要依赖训练阶段形成的参数知识和当前请求中的上下文。模型训练完成后,参数不会因为外部世界发生变化而自动同步更新,因此新发布的产品文档、最新制度和刚发生的业务变化可能不在模型已知范围内。

企业内部数据还有另一层问题。合同、知识库、工单、项目文档等内容通常没有进入公开训练数据,即使模型本身能力很强,也不能凭空知道这些资料。把问题直接交给模型,并不会自动获得企业内部事实。

三类问题分别意味着什么

问题 典型表现 RAG 的作用
知识时效性不足 使用过期版本、旧价格或旧规则回答 从持续更新的数据源中检索最新资料
私有数据缺失 无法回答内部制度、项目资料和客户文档问题 在授权范围内检索私有知识
事实幻觉 缺少依据时仍生成具体名称、数字或结论 提供相关证据,并约束答案围绕证据生成

RAG 并不能保证模型绝不出错。它解决的是“回答时缺少外部证据”的问题。如果检索不到正确内容、检索结果本身有错误,或者生成阶段忽略了上下文,最终答案仍然可能不准确。

RAG 的本质是先找资料再回答

RAG 是 Retrieval-Augmented Generation,即检索增强生成。一次典型问答并不是直接把用户问题交给大模型,而是先从知识库中找到与问题相关的内容,再把这些内容连同问题一起提供给模型。

例如用户询问“公司的差旅报销上限是多少”。纯模型只能依靠已有参数知识猜测;RAG 应用则先检索当前有效的差旅制度,取得包含报销标准的段落,再要求模型依据这些段落组织答案。模型承担语言理解与生成,知识库承担事实来源。

RAG 和模型训练解决的问题不同

如果目标是让模型掌握最新产品文档、企业制度或大量经常变化的资料,RAG 通常更直接,因为知识更新可以通过更新知识库完成,不必重新训练模型。

微调更适合改变模型的行为方式,例如固定回答格式、学习特定任务模式或调整表达风格。它并不是维护大量动态事实的首选方案。实际系统也可以同时使用两者:用微调改变行为,用 RAG 提供回答所需的实时或私有知识。

什么时候值得使用 RAG

当问题答案主要存在于可管理的文档、数据库记录或知识库中,并且这些资料需要持续更新、需要权限控制,或者回答必须能够追溯事实依据时,RAG 很合适。

如果任务只是改写文本、翻译、头脑风暴,或者模型已有能力足够完成且不依赖外部事实,引入检索链路反而会增加索引、检索质量和数据维护成本。判断是否需要 RAG,关键不是“能不能接知识库”,而是回答质量是否真正依赖外部证据。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

RAG 解决什么问题

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通