大模型应用开发 / 系统课时
支持多轮问答
支持多轮问答
本篇解决 RAG 系统在连续对话中理解上下文的问题,通过保存必要历史、改写当前问题和控制检索范围,让用户可以自然追问并获得准确答案。
学习目标
- 理解多轮问答中会话历史的作用。
- 掌握历史消息筛选与查询改写方法。
- 避免无关上下文影响当前检索结果。
多轮问答中的核心问题
单轮 RAG 只需要处理当前问题,而多轮问答需要判断当前输入是否依赖之前的信息。例如用户先问“什么是向量数据库”,随后询问“它如何提升检索速度”,其中“它”需要结合历史消息才能确定指代对象。
如果直接把全部历史发送给模型,会导致上下文过长,并可能把旧话题带入当前检索。稳定方案通常是保留最近有效轮次,并对当前问题进行上下文补全。
保存与筛选会话历史
会话历史应保存用户问题、助手回答以及必要的引用信息。进入检索阶段前,需要过滤无关内容,只保留能够帮助理解当前问题的消息。
一个简单实现可以根据消息数量限制窗口大小,同时保留最近几轮交互。
python
messages = [
{"role": "user", "content": "什么是向量数据库"},
{"role": "assistant", "content": "向量数据库用于存储和检索向量数据"},
{"role": "user", "content": "它如何提升检索速度"}
]
# 保留最近两轮,避免历史无限增长
history = messages[-2:]
print(history)预期输出
text
[{'role': 'assistant', 'content': '向量数据库用于存储和检索向量数据'}, {'role': 'user', 'content': '它如何提升检索速度'}]查询改写与上下文补全
当用户输入包含代词、省略主语或隐含条件时,可以先生成一个独立问题,再进入向量检索。例如把“它如何提升检索速度”改写为“向量数据库如何提升检索速度”。
查询改写的目标不是生成答案,而是让检索模型获得完整语义。改写后的问题应保持用户真实意图,避免加入模型猜测的信息。
避免历史污染当前检索
多轮系统需要区分长期记忆和当前任务。与当前问题无关的历史消息应被裁剪,否则可能检索到旧主题文档,降低答案准确率。
常见控制方式包括限制历史长度、按主题筛选消息、使用摘要替代完整历史,以及设置最大上下文预算。
按自己的节奏,确认真正理解。