大模型应用开发 / 系统课时
实现多跳检索
实现多跳检索
有些问题无法通过一次检索直接回答,因为第二个事实依赖第一个事实的结果。本节实现一个最小多跳检索器:先查出中间实体,再用中间证据生成下一跳查询,最后汇总每一跳的来源证据。
学习目标
- 判断一个问题何时需要多跳检索而不是单次召回
- 实现“检索—提取中间事实—继续检索”的最小闭环
- 组织多跳证据,避免后续步骤脱离已验证事实
多跳检索解决什么问题
单跳检索假设原问题可以直接命中文档。多跳问题则包含事实依赖,例如“某框架作者所在的公司还发布了什么数据库产品”,需要先查到作者与公司关系,再基于公司名称继续检索产品信息。
因此,多跳检索的核心不是简单地“多查几次”,而是每一跳都产生可验证的中间事实,并把它转成下一跳查询。中间事实一旦错误,后续检索就可能沿着错误方向持续放大偏差。

实现最小两跳检索器
下面用内存文档和关键词匹配模拟检索器。示例重点是控制流程:第一跳先得到并验证公司实体,第二跳必须基于这个实体继续查询,而不是让生成模型凭自身知识猜测下一步。
python
from dataclasses import dataclass
@dataclass
class Doc:
source_id: str
text: str
DOCS = [
Doc('doc-1', 'Orion 框架由林川创建,他所在的公司是 Northstar Labs。'),
Doc('doc-2', 'Northstar Labs 发布了向量数据库 PolarisDB。'),
Doc('doc-3', '另一家公司发布了 AuroraCache,与本问题无关。')
]
def search(query: str) -> list[Doc]:
terms = [term for term in query.replace('?', '').split() if term]
scored = []
for doc in DOCS:
score = sum(1 for term in terms if term in doc.text)
if score:
scored.append((score, doc))
scored.sort(key=lambda item: item[0], reverse=True)
return [doc for _, doc in scored]
def answer_two_hop() -> tuple[str, list[str]]:
hop1 = search('Orion 公司')
company = 'Northstar Labs' if hop1 and 'Northstar Labs' in hop1[0].text else ''
if not company:
raise RuntimeError('第一跳未找到可验证的公司实体')
# 第二跳查询只使用第一跳已经由文档支持的中间实体。
hop2 = search(f'{company} 数据库')
product = 'PolarisDB' if hop2 and 'PolarisDB' in hop2[0].text else ''
if not product:
raise RuntimeError('第二跳未找到可验证的数据库产品')
evidence = [hop1[0].source_id, hop2[0].source_id]
return f'{company} 发布的数据库产品是 {product}', evidence
if __name__ == '__main__':
answer, evidence = answer_two_hop()
print(answer)
print('evidence:', ','.join(evidence))预期输出
text
Northstar Labs 发布的数据库产品是 PolarisDB
evidence: doc-1,doc-2这个例子把实体提取规则直接写在代码中,是为了突出多跳检索的控制逻辑。真实系统可以让模型输出结构化中间事实,但进入下一跳前仍应检查该事实是否能由当前证据明确支持。
约束每一跳的状态
多跳流程至少应保存原始问题、当前子查询、已确认事实和来源集合。下一跳只能使用已确认事实生成查询,不能把模型未经证据支持的猜测写入检索状态。
当一跳返回多个可能实体时,不应简单选择第一个结果。可以增加重排、置信度阈值或分支检索;如果多个来源互相冲突,应停止当前链路并返回证据不足,而不是继续拼接一个看似完整的答案。
汇总证据而不是只汇总答案
最终生成阶段应接收每一跳的原始证据,而不只是中间摘要。摘要可以减少上下文,但如果完全丢弃原文,最终模型就无法核对前一跳是否提取了错误实体或遗漏关键限定条件。
验收多跳检索时,应分别确认每一跳是否命中正确来源、中间事实是否确实由证据支持,以及最终答案是否依赖完整的证据链。三项同时成立,才说明多跳检索真正解决了单次召回无法回答的问题。
按自己的节奏,确认真正理解。