大模型应用开发 / 系统课时

支持多轮问答

支持多轮问答

多轮 RAG 的难点不是把整段聊天记录塞进提示词,而是判断当前问题究竟依赖哪些历史信息。正确做法是先把指代不完整的问题改写成独立检索问题,再只携带与本轮答案有关的少量上下文,避免旧话题污染检索与生成。

学习目标

  • 区分“用于问题改写的历史”和“用于回答生成的证据”。
  • 把省略主语、代词或上下文指代改写为可独立检索的问题。
  • 限制无关历史进入检索与生成,降低主题漂移和上下文浪费。

把多轮问答拆成两条上下文链

一次多轮问答至少包含两类信息:对话历史负责解释“这个、它、刚才那个方案”指向什么,知识库片段负责证明答案是什么。两者作用不同,不能直接混在一起当作同一种上下文。

推荐流程是:从最近对话中提取与当前问题相关的实体或主题,生成一个不依赖聊天记录也能读懂的检索问题;随后只用这个改写后的问题检索知识库;最终生成答案时,可以带少量必要对话状态,但事实依据仍来自检索结果。

多轮 RAG 的问题改写与检索时序

先把当前问题改写成独立问题

如果用户上一轮问“企业版支持私有化部署吗?”,这一轮只问“这个方案支持跨地域吗?”,直接检索“这个方案”几乎没有意义。改写后的查询应该补全真正的主题,例如“企业版私有化部署支持跨地域吗?”。

生产环境通常由模型完成改写,但输入不应是无限增长的完整历史。更稳妥的方式是维护一个紧凑的会话状态,只保存当前主题、关键实体和最近少量相关轮次。下面用一个可运行的最小示例演示这种思路。

python
from dataclasses import dataclass

@dataclass
class ConversationState:
    topic: str

def rewrite_for_retrieval(question: str, state: ConversationState) -> str:
    references = ("这个方案", "它", "这个")
    rewritten = question

    # 仅在存在明显指代时补入当前主题,避免无条件污染新话题。
    for token in references:
        if token in rewritten:
            rewritten = rewritten.replace(token, state.topic, 1)
            break
    return rewritten

state = ConversationState(topic="企业版私有化部署")
current_question = "这个方案支持跨地域吗?"
query = rewrite_for_retrieval(current_question, state)
print(query)

预期输出

text
企业版私有化部署支持跨地域吗?

这个示例用确定性替换便于说明流程,真实系统可以让模型执行改写,但应约束它只输出检索问题,不回答用户,也不引入历史中没有出现的新事实。

限制历史信息进入检索

把全部历史拼到检索查询里,会同时带来噪声和偏移。例如用户十轮之前讨论“开发者套餐”,现在已经切换到“企业版私有化部署”,旧关键词仍可能让向量检索召回错误文档。

可以采用三层限制:只保留最近若干轮作为候选;再按当前问题与历史轮次的相关性筛选;最后把长期信息压缩成结构化状态,例如 topic、product、region、version,而不是保存整段自然语言。这样上下文规模不会随对话轮数线性增长。

生成阶段只带必要历史

答案生成通常需要知道用户当前语气、指代对象或上一轮未完成的约束,但不需要看到所有旧问题。可以把最终提示词拆成三部分:当前独立问题、检索得到的证据、少量必要会话状态。

如果当前问题已经被成功改写为独立问题,历史文本甚至可以不再进入检索器。生成器只接收类似“当前主题:企业版私有化部署”这样的紧凑状态,就能维持多轮连续性,同时避免旧答案、旧猜测和无关话题干扰事实生成。

处理话题切换和改写失败

多轮系统必须允许用户突然换话题。当当前问题明确包含新的实体或主题时,应覆盖旧状态,而不是强行把新问题改写回旧主题。对于“它怎么样?”这类缺少足够指代信息的问题,如果状态里也无法唯一确定对象,应直接向用户追问,而不是猜测。

还要记录两个可观测结果:改写前问题与改写后问题,以及最终检索命中的文档。排查“为什么答非所问”时,先判断是改写错了、检索错了,还是生成器忽略了证据,能比只看最终答案更快定位根因。

多轮 RAG 的稳定性来自“最小必要上下文”:历史负责补全当前问题,改写后的独立问题负责检索,知识库片段负责提供事实。只要这三类信息保持边界清晰,即使对话很长,也不必把整段聊天记录不断复制到每一次检索和生成中。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

支持多轮问答

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通