大模型应用开发 / 系统课时

组织消息角色

组织消息角色

多轮对话不是把文本简单追加到数组里,而是要让每条消息承担明确职责,并保持工具调用前后关系完整。本节会建立一套可执行的消息组织规则,让模型能稳定区分约束、用户意图、历史回答与工具结果。

学习目标

  • 区分 system、user、assistant、tool 四类消息的职责
  • 按真实发生顺序组织多轮消息与工具调用
  • 在发送请求前检查角色、调用 ID 和消息顺序是否一致

四类消息各自负责什么

system 用于放长期有效的行为约束,例如身份、输出格式和禁止事项。它不应被普通用户输入覆盖,也不适合存放本轮才会出现的业务数据。

user 表示用户真实输入;assistant 表示模型已经给出的回答,或模型发起的工具调用;tool 则承载工具执行结果,并通过调用 ID 与对应的 assistant 工具请求配对。

保持消息顺序和调用配对

一次典型的工具调用会经历“用户提问 → 助手请求工具 → 工具返回 → 助手形成最终回答”。这四个事件必须按实际发生顺序保存,不能只保留最后一句自然语言回答。

消息角色与工具调用时序

如果一次助手消息发起多个工具调用,每个调用都应有独立 ID;后续 tool 消息必须引用正确 ID。只有所有必要结果都回填后,才让模型继续生成下一条助手消息。

用代码检查消息结构

下面的示例构造一段完整历史,并在发送给模型前检查角色是否合法、工具结果是否能找到对应调用。

python
ALLOWED_ROLES = {"system", "user", "assistant", "tool"}

messages = [
    {"role": "system", "content": "你是订单助手,只根据工具结果回答订单状态。"},
    {"role": "user", "content": "查询订单 A100"},
    {
        "role": "assistant",
        "content": None,
        "tool_calls": [
            {
                "id": "call_1",
                "name": "get_order",
                "arguments": {"order_id": "A100"},
            }
        ],
    },
    {
        "role": "tool",
        "tool_call_id": "call_1",
        "content": '{"order_id":"A100","status":"shipped"}',
    },
    {"role": "assistant", "content": "订单 A100 已发货。"},
]

seen_tool_calls = set()

for index, message in enumerate(messages):
    role = message["role"]
    if role not in ALLOWED_ROLES:
        raise ValueError(f"invalid role at index {index}: {role}")

    if role == "assistant":
        for call in message.get("tool_calls", []):
            seen_tool_calls.add(call["id"])

    if role == "tool" and message["tool_call_id"] not in seen_tool_calls:
        raise ValueError(
            f"tool result at index {index} has no matching assistant call"
        )

print("roles:", " -> ".join(message["role"] for message in messages))
print("tool calls:", sorted(seen_tool_calls))

预期输出

text
roles: system -> user -> assistant -> tool -> assistant
tool calls: ['call_1']

这里的 call_1 只是示例 ID;真实系统通常由模型服务或应用层生成,实际值会不同。

发送前做最小化处理

上下文越长,成本越高,也越容易把无关信息带进当前推理。保留消息时应优先保留仍会影响后续回答的系统约束、近期用户意图、必要的助手结果,以及尚需引用的工具返回。

已经被更高质量状态替代的中间文本可以摘要后保存,但不能打乱角色或伪造来源。例如,工具结果可以压缩字段,却仍应保持 tool 身份和原始调用 ID;助手的最终回答也应继续保留为 assistant。

组织消息的核心不是“消息越多越好”,而是让每条消息的来源、职责和时间关系都可被模型正确还原。只要角色清晰、顺序真实、工具调用能一一配对,多轮上下文就具备了可维护的语义基础。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

组织消息角色

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通