大模型应用开发 / 系统课时
RAG 解决什么问题
RAG 解决什么问题
大模型能够生成流畅答案,但它并不天然掌握最新信息,也看不到企业内部资料,还可能在知识不足时生成看似合理的错误事实。RAG 的核心价值,就是在回答前先取得可用证据,再让模型基于证据完成回答。
学习目标
- 识别知识时效性、私有数据缺失和事实幻觉三类典型问题
- 理解 RAG 如何通过外部检索补充模型上下文
- 判断哪些需求适合优先采用 RAG,而不是立即训练模型
大模型为什么会缺少你需要的知识
大模型生成答案时,主要依赖训练阶段形成的参数知识和当前请求中的上下文。模型训练完成后,参数不会因为外部世界发生变化而自动同步更新,因此新发布的产品文档、最新制度和刚发生的业务变化可能不在模型已知范围内。
企业内部数据还有另一层问题。合同、知识库、工单、项目文档等内容通常没有进入公开训练数据,即使模型本身能力很强,也不能凭空知道这些资料。把问题直接交给模型,并不会自动获得企业内部事实。
三类问题分别意味着什么
| 问题 | 典型表现 | RAG 的作用 |
|---|---|---|
| 知识时效性不足 | 使用过期版本、旧价格或旧规则回答 | 从持续更新的数据源中检索最新资料 |
| 私有数据缺失 | 无法回答内部制度、项目资料和客户文档问题 | 在授权范围内检索私有知识 |
| 事实幻觉 | 缺少依据时仍生成具体名称、数字或结论 | 提供相关证据,并约束答案围绕证据生成 |
RAG 并不能保证模型绝不出错。它解决的是“回答时缺少外部证据”的问题。如果检索不到正确内容、检索结果本身有错误,或者生成阶段忽略了上下文,最终答案仍然可能不准确。
RAG 的本质是先找资料再回答
RAG 是 Retrieval-Augmented Generation,即检索增强生成。一次典型问答并不是直接把用户问题交给大模型,而是先从知识库中找到与问题相关的内容,再把这些内容连同问题一起提供给模型。
例如用户询问“公司的差旅报销上限是多少”。纯模型只能依靠已有参数知识猜测;RAG 应用则先检索当前有效的差旅制度,取得包含报销标准的段落,再要求模型依据这些段落组织答案。模型承担语言理解与生成,知识库承担事实来源。
RAG 和模型训练解决的问题不同
如果目标是让模型掌握最新产品文档、企业制度或大量经常变化的资料,RAG 通常更直接,因为知识更新可以通过更新知识库完成,不必重新训练模型。
微调更适合改变模型的行为方式,例如固定回答格式、学习特定任务模式或调整表达风格。它并不是维护大量动态事实的首选方案。实际系统也可以同时使用两者:用微调改变行为,用 RAG 提供回答所需的实时或私有知识。
什么时候值得使用 RAG
当问题答案主要存在于可管理的文档、数据库记录或知识库中,并且这些资料需要持续更新、需要权限控制,或者回答必须能够追溯事实依据时,RAG 很合适。
如果任务只是改写文本、翻译、头脑风暴,或者模型已有能力足够完成且不依赖外部事实,引入检索链路反而会增加索引、检索质量和数据维护成本。判断是否需要 RAG,关键不是“能不能接知识库”,而是回答质量是否真正依赖外部证据。