大模型应用开发 / 技术文章
RAG 检索不到内容怎么排查
RAG 应用出现检索为空、召回结果不相关或模型无法利用知识库内容时,适合 AI 应用开发者和算法工程师进行链路定位。本文通过拆解数据准备、索引构建、查询召回和生成阶段,帮助排查问题来源并恢复稳定的知识增强效果。
先判断问题发生在哪个环节
RAG 检索失败并不一定来自向量数据库,完整链路包含文档加载、文本切片、向量化、索引写入、查询改写、向量召回、重排序和上下文注入多个阶段。
排查时应先确认失败表现属于哪一类:
- 知识库中存在内容,但完全没有召回结果,通常关注索引和查询阶段。
- 能召回内容,但内容无关,通常关注切片策略、Embedding 模型和召回参数。
- 已注入上下文,但模型仍回答错误,通常关注提示词和生成阶段。
可以先打印每一步的中间结果,确认问题边界:
python
query = "订单退款多久到账"
chunks = retriever.invoke(query)
print("召回数量:", len(chunks))
for chunk in chunks[:3]:
print(chunk.page_content[:100])预期输出/结果:
text
召回数量: 3
退款申请提交后将在 1-3 个工作日完成审核...检查文档是否正确进入知识库
很多检索失败源于数据没有真正进入索引。需要确认原始文件是否成功解析、切片是否合理、Embedding 是否执行以及向量是否写入数据库。
常见检查点包括:
- 文档解析是否丢失正文,例如 PDF 扫描件没有 OCR。
- 切片是否包含完整语义,避免把标题和正文拆散。
- 元数据过滤条件是否误删目标文档。
- 向量数量是否与导入文档规模匹配。
例如检查向量库中的记录数量:
sql
SELECT COUNT(*) FROM document_vectors;预期输出/结果:
text
COUNT(*)
12500如果数量异常,应优先修复入库流程,而不是调整召回参数。
排查 Embedding 和查询是否匹配
向量检索依赖 Embedding 模型将文本和问题映射到同一语义空间。如果索引阶段和查询阶段使用不同模型,召回效果会明显下降。
需要确认:
- 文档入库和查询使用相同或兼容的 Embedding 模型。
- 向量维度一致。
- 距离计算方式符合模型特点,例如余弦距离或内积。
可以记录查询向量信息:
python
embedding = model.embed_query("退款规则")
print(len(embedding))预期输出/结果:
text
1536如果维度、模型版本或归一化方式不一致,需要重新构建索引。
调整召回参数和检索策略
召回不到内容时,不应立即增加知识库规模,而应检查检索策略是否适合当前场景。
常见调整方向:
- 增大 topK,让更多候选内容进入后续排序。
- 降低相似度阈值,避免过滤掉弱匹配结果。
- 使用混合检索,将关键词匹配和向量检索结合。
- 增加查询改写,让用户问题更接近知识库表达。
例如调整检索数量:
python
retriever = vector_store.as_retriever(
search_kwargs={"k": 10}
)预期输出/结果:
text
返回候选文档数量: 10参数调整后,需要通过真实问题集验证,而不是只观察单个案例。
检查重排序和上下文注入问题
有些 RAG 系统已经成功召回内容,但后续阶段丢弃了有效信息。
重点检查:
- Rerank 模型是否把正确文档排到后面。
- Prompt 是否限制了上下文长度。
- 长文档是否导致关键片段被截断。
- 生成模型是否遵循引用内容回答。
可以记录最终发送给大模型的 Prompt,确认检索结果是否存在:
text
用户问题:
退款多久到账?
参考资料:
退款审核完成后 1-3 个工作日到账。预期输出/结果:
text
模型能够基于参考资料生成答案建立 RAG 检索故障排查流程
稳定排查 RAG 问题需要建立固定顺序,而不是反复调整参数。
推荐流程如下:
- 确认用户问题是否能在知识库找到答案。
- 检查文档是否完成解析和向量化。
- 验证查询向量和索引向量是否兼容。
- 查看原始召回结果和相似度分数。
- 检查重排序、上下文拼接和模型输入。
- 使用评测数据验证优化是否有效。
通过分层定位,可以快速区分数据问题、检索问题和生成问题,让 RAG 系统从“偶尔能答”变成可调试、可优化的工程系统。