大模型应用开发 / 系统课时
路由多个知识库
路由多个知识库
当一个 RAG 应用同时服务产品、售后、财务等领域时,直接把所有问题丢进同一个索引会放大噪声。本课用“领域识别 → 路由 → 检索 → 回退”的最小实现,把查询送到最合适的知识库,并保留无法判断时的安全兜底。
学习目标
- 能根据用户问题选择对应知识库或检索策略
- 能实现带置信度和默认回退的路由函数
- 能验证路由结果与最终检索链路是否一致
先把路由放在检索之前
多知识库 RAG 的关键不是“多建几个向量库”,而是把检索范围先缩到正确业务域。典型链路包含用户问题、路由器、多个知识库和统一回答器;当路由置信度不足时,应回退到通用库或多库并行检索,而不是强行猜测。

用显式规则实现最小路由器
生产环境可以使用分类模型或 LLM 做意图识别,但最小可运行版本先用可审查的规则。重点是让路由结果结构化,并把置信度不足的请求明确标记为 fallback。
from dataclasses import dataclass
@dataclass
class Route:
knowledge_base: str
confidence: float
reason: str
def route_query(query: str) -> Route:
q = query.lower()
if any(word in q for word in ["退款", "退货", "售后", "工单"]):
return Route("support", 1.0, "命中售后关键词")
if any(word in q for word in ["发票", "付款", "对账", "账单"]):
return Route("finance", 1.0, "命中财务关键词")
if any(word in q for word in ["功能", "配置", "版本", "产品"]):
return Route("product", 1.0, "命中产品关键词")
return Route("fallback", 0.0, "未识别明确业务域")
if __name__ == "__main__":
for question in [
"如何申请退款?",
"本月发票什么时候开?",
"高级版支持哪些配置?",
"你们公司的办公时间是什么?",
]:
route = route_query(question)
print(
f"{question} -> {route.knowledge_base} "
f"confidence={route.confidence:.1f} ({route.reason})"
)预期输出
如何申请退款? -> support confidence=1.0 (命中售后关键词)
本月发票什么时候开? -> finance confidence=1.0 (命中财务关键词)
高级版支持哪些配置? -> product confidence=1.0 (命中产品关键词)
你们公司的办公时间是什么? -> fallback confidence=0.0 (未识别明确业务域)规则路由的优点是行为稳定、易调试,缺点是表达覆盖有限。这里的置信度只是演示值;切换到分类模型后,应使用模型分数或经校准的置信度,并保留 knowledge_base、confidence 与 reason 供观测和回放。
把路由结果接到检索器
路由只决定“去哪搜”,不要把生成回答的职责也塞进去。检索层根据知识库名选择不同索引、过滤条件或搜索参数;这样产品库可以偏语义检索,财务库可以增加严格元数据过滤,售后库可以提高近期文档权重。
下面是片段示例,依赖上一段已经定义的 route_query 与 Route,用于展示路由结果如何约束检索范围。
INDEXES = {
"product": ["产品配置指南", "版本功能说明"],
"support": ["退款政策", "售后处理流程"],
"finance": ["开票规则", "对账说明"],
"fallback": ["公司通用说明"],
}
def retrieve(query: str, knowledge_base: str) -> list[str]:
# 示例用内存数据代替真实向量库,只演示路由后的检索边界。
return INDEXES[knowledge_base]
question = "如何申请退款?"
route = route_query(question)
docs = retrieve(question, route.knowledge_base)
print(route.knowledge_base)
print(docs)预期输出
support
['退款政策', '售后处理流程']真实系统里,retrieve 可替换为向量数据库、BM25、混合检索或带过滤条件的搜索接口;路由器只输出策略标识,不需要知道底层检索实现。
给错误路由留退路
如果路由器给错知识库,后续生成器通常无法自动补救。至少应记录问题、路由结果、理由、命中文档和最终是否有答案,并为低置信度请求设置回退策略。
常见做法有三种:未知领域进入通用库;候选领域相近时并行检索两个库再重排;业务风险较高时直接要求用户补充信息。不要把“始终搜索所有知识库”当兜底,否则多库路由失去降低噪声和成本的意义。
一个可维护的多知识库 RAG,应让路由结果可解释、检索策略可替换、低置信度请求可回退。这样知识库数量增加时,系统仍能清楚回答“这个问题为什么被送到这里”。