大模型应用开发 / 系统课时

路由多个知识库

路由多个知识库

当一个 RAG 应用同时服务产品、售后、财务等领域时,直接把所有问题丢进同一个索引会放大噪声。本课用“领域识别 → 路由 → 检索 → 回退”的最小实现,把查询送到最合适的知识库,并保留无法判断时的安全兜底。

学习目标

  • 能根据用户问题选择对应知识库或检索策略
  • 能实现带置信度和默认回退的路由函数
  • 能验证路由结果与最终检索链路是否一致

先把路由放在检索之前

多知识库 RAG 的关键不是“多建几个向量库”,而是把检索范围先缩到正确业务域。典型链路包含用户问题、路由器、多个知识库和统一回答器;当路由置信度不足时,应回退到通用库或多库并行检索,而不是强行猜测。

多知识库路由链路

用显式规则实现最小路由器

生产环境可以使用分类模型或 LLM 做意图识别,但最小可运行版本先用可审查的规则。重点是让路由结果结构化,并把置信度不足的请求明确标记为 fallback。

python
from dataclasses import dataclass

@dataclass
class Route:
    knowledge_base: str
    confidence: float
    reason: str

def route_query(query: str) -> Route:
    q = query.lower()

    if any(word in q for word in ["退款", "退货", "售后", "工单"]):
        return Route("support", 1.0, "命中售后关键词")
    if any(word in q for word in ["发票", "付款", "对账", "账单"]):
        return Route("finance", 1.0, "命中财务关键词")
    if any(word in q for word in ["功能", "配置", "版本", "产品"]):
        return Route("product", 1.0, "命中产品关键词")

    return Route("fallback", 0.0, "未识别明确业务域")

if __name__ == "__main__":
    for question in [
        "如何申请退款?",
        "本月发票什么时候开?",
        "高级版支持哪些配置?",
        "你们公司的办公时间是什么?",
    ]:
        route = route_query(question)
        print(
            f"{question} -> {route.knowledge_base} "
            f"confidence={route.confidence:.1f} ({route.reason})"
        )

预期输出

text
如何申请退款? -> support confidence=1.0 (命中售后关键词)
本月发票什么时候开? -> finance confidence=1.0 (命中财务关键词)
高级版支持哪些配置? -> product confidence=1.0 (命中产品关键词)
你们公司的办公时间是什么? -> fallback confidence=0.0 (未识别明确业务域)

规则路由的优点是行为稳定、易调试,缺点是表达覆盖有限。这里的置信度只是演示值;切换到分类模型后,应使用模型分数或经校准的置信度,并保留 knowledge_base、confidence 与 reason 供观测和回放。

把路由结果接到检索器

路由只决定“去哪搜”,不要把生成回答的职责也塞进去。检索层根据知识库名选择不同索引、过滤条件或搜索参数;这样产品库可以偏语义检索,财务库可以增加严格元数据过滤,售后库可以提高近期文档权重。

下面是片段示例,依赖上一段已经定义的 route_query 与 Route,用于展示路由结果如何约束检索范围。

python
INDEXES = {
    "product": ["产品配置指南", "版本功能说明"],
    "support": ["退款政策", "售后处理流程"],
    "finance": ["开票规则", "对账说明"],
    "fallback": ["公司通用说明"],
}

def retrieve(query: str, knowledge_base: str) -> list[str]:
    # 示例用内存数据代替真实向量库,只演示路由后的检索边界。
    return INDEXES[knowledge_base]

question = "如何申请退款?"
route = route_query(question)
docs = retrieve(question, route.knowledge_base)

print(route.knowledge_base)
print(docs)

预期输出

text
support
['退款政策', '售后处理流程']

真实系统里,retrieve 可替换为向量数据库、BM25、混合检索或带过滤条件的搜索接口;路由器只输出策略标识,不需要知道底层检索实现。

给错误路由留退路

如果路由器给错知识库,后续生成器通常无法自动补救。至少应记录问题、路由结果、理由、命中文档和最终是否有答案,并为低置信度请求设置回退策略。

常见做法有三种:未知领域进入通用库;候选领域相近时并行检索两个库再重排;业务风险较高时直接要求用户补充信息。不要把“始终搜索所有知识库”当兜底,否则多库路由失去降低噪声和成本的意义。

一个可维护的多知识库 RAG,应让路由结果可解释、检索策略可替换、低置信度请求可回退。这样知识库数量增加时,系统仍能清楚回答“这个问题为什么被送到这里”。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

路由多个知识库

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通