大模型应用开发 / 系统课时

排查检索与回答故障

排查检索与回答故障

本篇聚焦生产环境中 RAG 系统出现空结果、召回错误、引用失效、回答偏差和超时异常时的定位方法,帮助开发者建立从日志、链路到数据的系统化排查路径。

学习目标

  • 掌握 RAG 请求链路中的关键故障定位点
  • 学会根据日志判断检索、生成和服务层问题
  • 建立从现象到根因的排查流程

建立故障定位视角

RAG 请求通常经过查询处理、向量检索、重排、上下文组装、模型生成和引用返回多个阶段。故障排查不能只看最终答案,而要确认每个阶段的输入和输出是否符合预期。

检查检索链路数据

空结果和错误召回通常来自索引未更新、查询改写异常、过滤条件错误或相似度阈值设置不合理。排查时应先确认检索服务是否收到正确请求,并记录召回文档数量、分数和来源。

python
query = "如何配置生产环境数据库连接"
retrieval_result = {
    "count": 3,
    "documents": ["database-config.md", "deploy-guide.md"],
    "scores": [0.86, 0.74]
}

print(retrieval_result["count"])

预期输出

text
3

当召回数量为 0 时,应继续检查文档是否完成切分、向量是否写入集合、查询过滤条件是否限制了结果范围。

定位回答偏差与引用失效

回答错误不一定来自模型能力,也可能是上下文拼接阶段引入了错误内容。需要检查最终发送给模型的提示词、引用文档片段以及引用标识是否保持一致。常见定位顺序如下:

  • 检查检索结果是否包含正确知识
  • 检查上下文拼接是否丢失关键片段
  • 检查模型输出是否遵循引用格式要求

排查超时与服务异常

生产环境超时通常需要区分检索耗时、模型调用耗时和网络等待耗时。可以通过链路追踪记录每个阶段时间,避免只增加超时时间而隐藏性能问题。

bash
curl -X GET http://localhost:<PORT>/api/rag/health

预期输出

text
{"status":"UP"}

健康检查正常但请求超时时,应继续查看依赖服务状态和请求耗时指标。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

排查检索与回答故障

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通