大模型应用开发 / 系统课时

混合关键词与向量召回

混合关键词与向量召回

单独依赖向量召回,容易把错误码、型号和品牌名这类精确词“理解得太宽”;只用关键词又会漏掉同义改写。本节把两路召回并行执行,再统一分数尺度并融合,得到既能保住精确匹配、又能覆盖自然语言语义的候选集。

学习目标

  • 判断关键词召回与向量召回各自最擅长的查询类型。
  • 将两路结果归一化后合并为统一候选分数。
  • 为错误码、型号和语义问法设计可验证的融合策略。

为什么要并行两路召回

关键词检索擅长“字面必须命中”的信息,例如 ERR-1042、Router-X200、品牌名和专有缩写;向量检索更擅长“意思相近但表达不同”的问法,例如“设备反复掉线怎么处理”和“网络频繁断开排查”。企业客服查询通常同时包含这两类信号,因此不应让其中一路承担全部责任。

关键词与向量并行召回及融合流程

两路应各自取一批候选,例如关键词 Top-20 与向量 Top-20,再按文档 ID 求并集。这样某篇文档即使只被一路召回,也不会在融合前丢失;同时保留每一路的原始分数,便于后续归一化、调权和排障。

把两路分数变成同一尺度

BM25 分数与向量相似度不是同一种量纲,不能直接相加。最简单的实验方法是在当前候选集合内分别做 Min-Max 归一化,再使用权重计算融合分数。下面示例让关键词信号占 70%,用于保护错误码这类精确命中。

python
keyword = {
    "kb-err-1042": 12.0,
    "kb-reset-guide": 3.0,
    "kb-network": 0.0,
}
vector = {
    "kb-err-1042": 0.62,
    "kb-reset-guide": 0.89,
    "kb-network": 0.83,
}

def minmax(scores):
    low, high = min(scores.values()), max(scores.values())
    if high == low:
        return {doc_id: 1.0 for doc_id in scores}
    return {
        doc_id: (score - low) / (high - low)
        for doc_id, score in scores.items()
    }

kw = minmax(keyword)
vec = minmax(vector)
doc_ids = keyword.keys() | vector.keys()

fused = []
for doc_id in doc_ids:
    score = 0.7 * kw.get(doc_id, 0.0) + 0.3 * vec.get(doc_id, 0.0)
    fused.append((doc_id, round(score, 4)))

print(sorted(fused, key=lambda item: item[1], reverse=True))

预期输出

text
[('kb-err-1042', 0.7), ('kb-reset-guide', 0.475), ('kb-network', 0.2333)]

这里缺失于某一路的文档按该路归一化分数 0 处理。示例中的 kb-err-1042 虽然向量分不高,但精确关键词得分最高,融合后仍排在首位,符合“错误码优先保真”的目标。

选择加权融合还是排名融合

加权融合直观,适合你已经能稳定校准两路分数分布的场景;缺点是不同查询、不同索引版本可能改变分数范围,权重需要持续评估。若两路原始分数很难比较,可以改用 RRF 一类的排名融合,只依据名次贡献分数,通常更稳健。

不要把“某个固定权重”当成通用答案。对包含错误码、SKU、型号的查询,可以提高关键词侧权重;对长句问题、口语化描述和同义改写,可以提高向量侧权重。更进一步时,可先做查询分类,再选择不同融合参数。

用离线集和在线日志验收

至少准备三类测试:精确词查询必须把对应知识推到前列;同义改写不能因为缺少原词而召回失败;同时含型号与自然语言描述的查询,要兼顾两路信号。评估时记录每篇候选的关键词原始分、向量原始分、归一化分和最终融合分。

线上出现“明明命中了错误码却排不上来”时,先检查关键词路是否召回,再看归一化是否压扁了分差,最后检查融合权重和候选并集是否正确。这样混合召回不只是“多跑一路检索”,而是一条可以解释、调参并复现的候选生成链路。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

混合关键词与向量召回

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通