AI Agent / 系统课时
裁剪对话历史
裁剪对话历史
本篇解决智能体运行时间增长后上下文不断膨胀的问题,最终实现一种保留关键状态、压缩重复信息并控制上下文长度的方法,让模型持续执行任务时仍保持准确理解。
学习目标
- 理解为什么智能体需要裁剪历史消息
- 掌握摘要、删除和状态提取等裁剪策略
- 能够设计基础历史压缩流程
为什么需要裁剪历史
对话历史记录了智能体过去的思考、工具调用和结果,但并不是所有内容都需要永久保留。随着任务步骤增加,完整历史会占用越来越多上下文空间,也会降低模型关注当前目标的能力。
历史裁剪的核心不是简单删除旧消息,而是在有限窗口内保留对未来决策有帮助的信息。
常见历史裁剪策略
实际系统通常组合使用以下方法:
| 策略 | 做法 | 适用场景 |
|---|---|---|
| 滑动窗口 | 保留最近若干轮消息 | 连续对话 |
| 摘要压缩 | 将旧历史总结成状态 | 长任务执行 |
| 状态提取 | 保存关键变量和结论 | 工具型 Agent |
| 重复过滤 | 删除相同或无效信息 | 高频交互 |
其中摘要压缩通常效果最好,因为它可以减少长度,同时保留任务进展。
实现一个简单历史裁剪器
下面示例根据最大消息数量保留最近记录,并将旧内容转换为摘要状态。实际项目中摘要生成通常由模型完成。
python
class HistoryCompressor:
def __init__(self, max_messages: int):
self.max_messages = max_messages
def compress(self, messages: list[str]) -> list[str]:
if len(messages) <= self.max_messages:
return messages
old_messages = messages[:-self.max_messages]
recent_messages = messages[-self.max_messages:]
summary = self.summarize(old_messages)
return [f"历史摘要: {summary}"] + recent_messages
def summarize(self, messages: list[str]) -> str:
return "; ".join(messages[:2])预期输出
text
输入消息数量: 6
保留最近消息数量: 3
输出:
历史摘要: 用户需求确认; 完成代码分析
最近步骤1
最近步骤2
最近步骤3裁剪时需要保留什么
历史裁剪应优先保留影响后续决策的信息,例如:
- 当前任务目标和未完成事项
- 已确认的约束条件
- 工具执行的重要结果
- 已产生的关键结论
相反,重复解释、已经解决的问题、过期尝试过程通常可以压缩或删除。
避免错误裁剪
过度裁剪会导致智能体失去上下文。例如删除工具调用结果可能让 Agent 重复执行相同操作,删除约束条件可能导致后续步骤违反规则。
因此,生产系统通常会把历史拆分为消息记录和状态存储两部分:消息负责交流过程,状态负责保存长期有效信息。
本课总结
- 历史裁剪的目标是在有限上下文中保留最大决策价值。
- 摘要、窗口控制和状态提取是常用的组合策略。
- 裁剪规则需要保护任务目标、约束和关键执行结果。
下一课预告
下一课将继续介绍上下文工程中的状态管理方法,学习如何让智能体在长流程任务中保持连续性。
按自己的节奏,确认真正理解。