AI Agent / 系统课时

处理上下文污染

处理上下文污染

本篇解决智能体上下文中无关信息过多导致模型判断偏移的问题。通过识别日志噪声、重复代码和错误检索内容,建立清洗、筛选和压缩上下文的处理流程,让模型获得更高质量的输入。

学习目标

  • 理解上下文污染产生的主要来源和影响。
  • 掌握过滤无关信息、保留关键证据的方法。
  • 能够设计基础的上下文清理流程。

上下文污染的表现与原因

上下文污染指输入给模型的信息中混入了大量与当前任务无关、重复或错误的信息,使模型注意力被低价值内容分散。智能体常见污染来源包括过长历史会话、调试日志、重复代码片段、低相关检索结果以及已经失效的任务状态。

污染并不一定表现为模型完全无法回答,更常见的是回答变得保守、重复已有错误、忽略最新指令,或者在多个可能方案之间选择错误方向。

建立上下文过滤流程

有效的上下文工程通常不会简单地增加上下文长度,而是在进入模型前进行筛选。一个基础流程包括收集候选信息、评估相关性、删除噪声、压缩保留内容。

例如,在处理代码问题时,可以保留报错堆栈、相关文件片段和最近修改记录,而删除无关模块日志和重复历史讨论。

python
messages = [
    {"role": "user", "content": "修复登录接口超时问题"},
    {"role": "tool", "content": "database connection timeout"},
    {"role": "log", "content": "debug cache hit 10000 times"}
]

# 只保留与当前任务相关的信息
context = [m for m in messages if "timeout" in m["content"] or m["role"] == "user"]
print(context)

预期输出

text
[{'role': 'user', 'content': '修复登录接口超时问题'}, {'role': 'tool', 'content': 'database connection timeout'}]

识别低价值上下文

可以通过几个规则判断信息是否值得进入模型上下文:

  • 是否直接影响当前任务决策。
  • 是否包含新的事实,而不是重复描述。
  • 是否来自可信来源,是否已经过期。

对于自动检索系统,还需要关注错误召回问题。相关但错误的文档可能比完全无关的信息更危险,因为模型容易将其误认为正确依据。

上下文污染的优化策略

常见优化方式包括摘要压缩、分层记忆、检索重排序和动态裁剪。短期任务只保留当前执行所需信息,长期知识则通过索引系统按需获取。

在多步骤智能体中,应避免把所有工具输出永久追加到上下文,而应该记录结果摘要和必要引用。

本课总结

  • 上下文污染会降低模型判断质量,关键问题不是长度不足,而是信息质量不足。
  • 上下文进入模型前需要经过筛选、压缩和相关性判断。
  • 高质量智能体需要管理信息流,而不是无限累积历史内容。

下一课预告

下一课将介绍如何设计智能体记忆机制,让历史信息能够被有效保存和再次利用。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

处理上下文污染

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通