大模型应用开发 / 技术文章

RAG 检索不到内容怎么排查

RAG 应用出现检索为空、召回结果不相关或模型无法利用知识库内容时,适合 AI 应用开发者和算法工程师进行链路定位。本文通过拆解数据准备、索引构建、查询召回和生成阶段,帮助排查问题来源并恢复稳定的知识增强效果。

先判断问题发生在哪个环节

RAG 检索失败并不一定来自向量数据库,完整链路包含文档加载、文本切片、向量化、索引写入、查询改写、向量召回、重排序和上下文注入多个阶段。

排查时应先确认失败表现属于哪一类:

  • 知识库中存在内容,但完全没有召回结果,通常关注索引和查询阶段。
  • 能召回内容,但内容无关,通常关注切片策略、Embedding 模型和召回参数。
  • 已注入上下文,但模型仍回答错误,通常关注提示词和生成阶段。

可以先打印每一步的中间结果,确认问题边界:

python
query = "订单退款多久到账"
chunks = retriever.invoke(query)

print("召回数量:", len(chunks))
for chunk in chunks[:3]:
    print(chunk.page_content[:100])

预期输出/结果:

text
召回数量: 3
退款申请提交后将在 1-3 个工作日完成审核...

检查文档是否正确进入知识库

很多检索失败源于数据没有真正进入索引。需要确认原始文件是否成功解析、切片是否合理、Embedding 是否执行以及向量是否写入数据库。

常见检查点包括:

  • 文档解析是否丢失正文,例如 PDF 扫描件没有 OCR。
  • 切片是否包含完整语义,避免把标题和正文拆散。
  • 元数据过滤条件是否误删目标文档。
  • 向量数量是否与导入文档规模匹配。

例如检查向量库中的记录数量:

sql
SELECT COUNT(*) FROM document_vectors;

预期输出/结果:

text
COUNT(*)
12500

如果数量异常,应优先修复入库流程,而不是调整召回参数。

排查 Embedding 和查询是否匹配

向量检索依赖 Embedding 模型将文本和问题映射到同一语义空间。如果索引阶段和查询阶段使用不同模型,召回效果会明显下降。

需要确认:

  • 文档入库和查询使用相同或兼容的 Embedding 模型。
  • 向量维度一致。
  • 距离计算方式符合模型特点,例如余弦距离或内积。

可以记录查询向量信息:

python
embedding = model.embed_query("退款规则")
print(len(embedding))

预期输出/结果:

text
1536

如果维度、模型版本或归一化方式不一致,需要重新构建索引。

调整召回参数和检索策略

召回不到内容时,不应立即增加知识库规模,而应检查检索策略是否适合当前场景。

常见调整方向:

  • 增大 topK,让更多候选内容进入后续排序。
  • 降低相似度阈值,避免过滤掉弱匹配结果。
  • 使用混合检索,将关键词匹配和向量检索结合。
  • 增加查询改写,让用户问题更接近知识库表达。

例如调整检索数量:

python
retriever = vector_store.as_retriever(
    search_kwargs={"k": 10}
)

预期输出/结果:

text
返回候选文档数量: 10

参数调整后,需要通过真实问题集验证,而不是只观察单个案例。

检查重排序和上下文注入问题

有些 RAG 系统已经成功召回内容,但后续阶段丢弃了有效信息。

重点检查:

  • Rerank 模型是否把正确文档排到后面。
  • Prompt 是否限制了上下文长度。
  • 长文档是否导致关键片段被截断。
  • 生成模型是否遵循引用内容回答。

可以记录最终发送给大模型的 Prompt,确认检索结果是否存在:

text
用户问题:
退款多久到账?

参考资料:
退款审核完成后 1-3 个工作日到账。

预期输出/结果:

text
模型能够基于参考资料生成答案

建立 RAG 检索故障排查流程

稳定排查 RAG 问题需要建立固定顺序,而不是反复调整参数。

推荐流程如下:

  1. 确认用户问题是否能在知识库找到答案。
  2. 检查文档是否完成解析和向量化。
  3. 验证查询向量和索引向量是否兼容。
  4. 查看原始召回结果和相似度分数。
  5. 检查重排序、上下文拼接和模型输入。
  6. 使用评测数据验证优化是否有效。

通过分层定位,可以快速区分数据问题、检索问题和生成问题,让 RAG 系统从“偶尔能答”变成可调试、可优化的工程系统。

目录与阅读设置

记录一个想法

RAG 检索不到内容怎么排查

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通