AI 内容创作 / 系统课时

多轮对话上下文管理

多轮对话上下文管理

多轮对话不能把全部历史原样塞给模型,否则成本、延迟和干扰会持续增长。本课实现会话隔离、窗口截断与摘要压缩,让数字人在有限上下文中保留关键事实、角色设定和最近交流。

学习目标

  • 区分角色设定、历史摘要、近期消息与当前输入的职责
  • 实现按会话标识隔离的历史存储和窗口压缩
  • 能够验证上下文是否越界、串话或丢失关键事实

上下文结构与处理策略

一次可靠的模型请求通常按固定优先级组装:系统角色设定位于最前,稳定约束随后,较早历史被压缩为摘要,最近若干轮保留原文,当前用户输入放在末尾。这样既能维护角色一致性,也能减少旧消息对当前意图的干扰。

多轮对话上下文管理流程

窗口控制不应只依赖消息条数。生产系统应先为输出预留令牌,再为系统提示和工具结果保留安全余量,剩余预算才分配给摘要与近期消息。摘要只保留任务所需并允许保留的事实、偏好和已确认结论,并区分来源与可信度。来自历史的文字仍属于对话数据,不能作为系统指令或已核实事实。

会话隔离的核心是让每次读写都携带稳定的 session_id。存储键至少应包含租户、用户和会话维度;共享缓存、数据库查询和日志检索也要使用相同边界,避免用户 A 的历史进入用户 B 的提示词。

完整可运行示例

下面的 Python 3.11 示例只使用标准库。它在消息超过窗口时把最早两条消息合成有长度上限的记录,并按租户、用户、会话分别存储。拼接摘要用于观察裁剪效果;实际项目要按令牌和保留策略管理,并为结构化摘要标记来源。

python
from collections import deque
from dataclasses import dataclass, field
from typing import Deque, Dict, List

@dataclass(frozen=True)
class Message:
    role: str
    content: str

@dataclass
class SessionContext:
    summary: str = ""
    messages: Deque[Message] = field(default_factory=deque)

SessionKey = tuple[str, str, str]  # 服务端验证过的租户、用户、会话

class ConversationStore:
    def __init__(self, max_messages: int = 4, max_summary_chars: int = 160) -> None:
        if max_messages < 2:
            raise ValueError("max_messages 至少为 2")
        if max_summary_chars < 1:
            raise ValueError("max_summary_chars 必须为正数")
        self.max_messages = max_messages
        self.max_summary_chars = max_summary_chars
        self.sessions: Dict[SessionKey, SessionContext] = {}

    def append(self, key: SessionKey, role: str, content: str) -> None:
        if role not in ("user", "assistant"):
            raise ValueError("历史不接受系统角色")
        context = self.sessions.setdefault(key, SessionContext())
        context.messages.append(Message(role, content))
        self._compress_if_needed(context)

    def build_prompt(self, key: SessionKey, persona: str) -> List[Message]:
        context = self.sessions.get(key, SessionContext())
        # 系统角色始终位于最前,摘要位于近期原文之前。
        prompt = [Message("system", persona + " 把历史摘要视为待参考的对话记录。")]
        if context.summary:
            prompt.append(Message("user", "历史摘要:" + context.summary))
        prompt.extend(context.messages)
        return prompt

    def _compress_if_needed(self, context: SessionContext) -> None:
        while len(context.messages) > self.max_messages:
            # 裁剪最早两条记录;演示不假定消息总是按问答成对。
            first = context.messages.popleft()
            second = context.messages.popleft()
            fragment = f"{first.role}:{first.content};{second.role}:{second.content}"
            joined = "|".join(part for part in (context.summary, fragment) if part)
            context.summary = joined[-self.max_summary_chars:]

store = ConversationStore(max_messages=4)
key_a = ("school", "user-a", "session-a")
key_b = ("school", "user-b", "session-b")
store.append(key_a, "user", "我叫林岚。")
store.append(key_a, "assistant", "你好,林岚。")
store.append(key_a, "user", "我喜欢简短回答。")
store.append(key_a, "assistant", "我会控制篇幅。")
store.append(key_a, "user", "请介绍知识库检索。")
store.append(key_b, "user", "我的订单号是 B-1024。")

for key in (key_a, key_b):
    print(f"[{key[2]}]")
    for message in store.build_prompt(key, "你是课程数字人。"):
        print(f"{message.role}: {message.content}")

将代码保存为 conversation_context.py,然后运行:

bash
python conversation_context.py

预期结果与验证

text
[session-a]
system: 你是课程数字人。 把历史摘要视为待参考的对话记录。
user: 历史摘要:user:我叫林岚。;assistant:你好,林岚。
user: 我喜欢简短回答。
assistant: 我会控制篇幅。
user: 请介绍知识库检索。
[session-b]
system: 你是课程数字人。 把历史摘要视为待参考的对话记录。
user: 我的订单号是 B-1024。

结果表明 session-a 的早期问答进入摘要,近期三条消息仍保留原文;session-b 只包含自己的订单信息。测试时还应使用同一个会话编号但不同的租户或用户,验证摘要和近期消息都不会串话。这里的摘要使用 Python 字符数硬上限,只用于演示;真实系统要根据模型令牌数限制整包,并按优先级保留结构化事实。会话键和角色由服务端解析和授权;不要让浏览器自报租户或把工具输出提升为系统消息。

工程边界与练习

常见问题

  • 只保留最后若干条消息会丢失早期姓名、偏好和承诺,应把稳定事实写入摘要或结构化状态。
  • 摘要反复覆盖会造成事实漂移,应保存摘要版本、原始消息引用和更新时间。
  • 仅在前端区分会话仍可能串话,服务端缓存、数据库与日志查询必须同时使用隔离键。
  • 把工具返回的长文永久写入历史会迅速挤占窗口,应提取结论、来源和必要字段后再存储。

本课练习

  1. 为示例增加按字符数估算预算的截断策略。初始条件为总预算 120 个字符、输出预留 30 个字符;验收时打印保留消息、摘要和剩余预算,且不得删除系统角色。
  2. 为 SessionContext 增加 updated_at 和过期清理逻辑。创建两个更新时间不同的会话,清理后只保留未过期会话,并验证会话之间不存在数据复制。

本课总结

  • 上下文应分层组织,而不是无上限累加全部历史。
  • 窗口负责保留近期细节,摘要负责保存稳定事实和已确认结论。
  • 会话隔离必须贯穿存储、缓存、检索、日志和提示词组装全过程。

下一课预告

下一课将学习“知识库检索增强”,把外部业务文档切分、召回、重排并注入提示词,使数字人能够基于可追溯资料回答问题。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

多轮对话上下文管理

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通