AI Agent / 系统课时

维护会话状态

维护会话状态

Agent 一旦需要连续完成多步任务,就不能只依赖当前一条用户消息。会话状态应明确保存当前目标、执行到哪一步、工具返回了什么以及后续步骤需要的中间变量,这样模型才能稳定续跑和恢复。

学习目标

  • 设计一个最小但够用的会话状态结构。
  • 在每次工具调用后更新步骤、结果和中间变量,并持久化最新状态。
  • 区分短期会话状态与完整聊天记录,避免状态无限膨胀或相互覆盖。

会话状态应该保存什么

最小状态通常包含四类信息:goal 表示当前要完成的目标,steps 与 step_index 表示计划和进度,tool_results 保存已经取得且后续仍需引用的工具结果,variables 保存从结果中提炼出的中间变量。

不要把“状态”简单等同于整段聊天记录。聊天记录适合保留交互上下文,但 Agent 的执行控制更需要结构化字段。模型在每一轮开始时读取状态,完成一步后只更新发生变化的部分,再写回存储。

Agent 会话状态的读写循环

用结构化对象保存最小状态

下面用单进程字典模拟短期检查点。存储和读取都制作独立快照,调用方在保存前的修改不会直接进入存储。示例只执行本地只读步骤。

python
from copy import deepcopy

class MemoryStore:
    def __init__(self):
        self.data = {}

    def save(self, account, session_id, state):
        self.data[account, session_id] = deepcopy(state)

    def load(self, account, session_id):
        return deepcopy(self.data[account, session_id])

def run_next_step(account, session_id, store):
    state = store.load(account, session_id)
    index = state["step_index"]
    if index == len(state["steps"]):
        return "already_complete"
    if not 0 <= index < len(state["steps"]):
        raise ValueError("invalid step index")
    if state["steps"][index] != "lookup_weather":
        raise ValueError("unknown step")
    state["tool_results"]["weather"] = {"city": state["city"], "condition": "晴"}
    state["need_umbrella"] = False
    state["step_index"] += 1
    store.save(account, session_id, state)
    return "advanced"

store = MemoryStore()
initial = {"goal": "判断是否需要带伞", "steps": ["lookup_weather"],
           "step_index": 0, "city": "杭州", "tool_results": {}}
store.save("user-a", "session-001", initial)
print(run_next_step("user-a", "session-001", store))
snapshot = store.load("user-a", "session-001")
snapshot["tool_results"]["weather"]["condition"] = "雨"
print(store.load("user-a", "session-001")["tool_results"]["weather"]["condition"])
print(run_next_step("user-a", "session-001", store))

输出 advanced、晴、already_complete。天气是测试数据。即使外部改了读取到的嵌套快照,存储值仍为晴。同一进程可以继续读写这个内存存储。跨进程与重启恢复要使用共享数据库等外部存储。

持久化时要守住三个边界

单进程演示可以使用内存字典,但多进程、容器重启或需要断点恢复时,应使用共享持久化存储。按已认证的账户和 session_id 一起隔离状态,两个账户可以拥有同名会话。会话 ID 本身不足以授权。

工具返回可能很大时,不要把完整原文无限追加到 tool_results。只保存后续确实需要的结构化结果,或保存对象存储、数据库记录的引用。敏感凭据也不应进入可回放的会话状态。

并行步骤可能同时写状态时,还要防止“后写覆盖先写”。常见做法是给状态增加版本号并使用 compare-and-set,或让每个并行步骤只更新自己负责的字段,再由汇总步骤合并。

让状态驱动下一步而不是堆积历史

每一轮执行可以遵循固定顺序:读取状态、判断下一步、调用工具、写入结果、提炼变量、推进步骤、持久化。这样会话状态既能支持正常续跑,也能在工具失败或进程重启后解释“任务现在进行到哪里”。

当目标已经完成时,应显式结束或归档这份状态,而不是继续把所有历史消息和工具输出永久塞入同一对象。一个可恢复、可检查、可并发控制的结构化状态,比单纯依赖长上下文更适合作为 Agent 的执行记忆。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

维护会话状态

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通