大模型应用开发 / 系统课时
排查检索与回答故障
排查检索与回答故障
本篇聚焦生产环境中 RAG 系统出现空结果、召回错误、引用失效、回答偏差和超时异常时的定位方法,帮助开发者建立从日志、链路到数据的系统化排查路径。
学习目标
- 掌握 RAG 请求链路中的关键故障定位点
- 学会根据日志判断检索、生成和服务层问题
- 建立从现象到根因的排查流程
建立故障定位视角
RAG 请求通常经过查询处理、向量检索、重排、上下文组装、模型生成和引用返回多个阶段。故障排查不能只看最终答案,而要确认每个阶段的输入和输出是否符合预期。
检查检索链路数据
空结果和错误召回通常来自索引未更新、查询改写异常、过滤条件错误或相似度阈值设置不合理。排查时应先确认检索服务是否收到正确请求,并记录召回文档数量、分数和来源。
python
query = "如何配置生产环境数据库连接"
retrieval_result = {
"count": 3,
"documents": ["database-config.md", "deploy-guide.md"],
"scores": [0.86, 0.74]
}
print(retrieval_result["count"])预期输出
text
3当召回数量为 0 时,应继续检查文档是否完成切分、向量是否写入集合、查询过滤条件是否限制了结果范围。
定位回答偏差与引用失效
回答错误不一定来自模型能力,也可能是上下文拼接阶段引入了错误内容。需要检查最终发送给模型的提示词、引用文档片段以及引用标识是否保持一致。常见定位顺序如下:
- 检查检索结果是否包含正确知识
- 检查上下文拼接是否丢失关键片段
- 检查模型输出是否遵循引用格式要求
排查超时与服务异常
生产环境超时通常需要区分检索耗时、模型调用耗时和网络等待耗时。可以通过链路追踪记录每个阶段时间,避免只增加超时时间而隐藏性能问题。
bash
curl -X GET http://localhost:<PORT>/api/rag/health预期输出
text
{"status":"UP"}健康检查正常但请求超时时,应继续查看依赖服务状态和请求耗时指标。
按自己的节奏,确认真正理解。