AI Agent / 系统课时
控制协作失效
控制协作失效
多 Agent 系统一旦缺少边界,很容易出现互相转交、重复搜索、结论冲突和上下文不断膨胀。本课把这些失效模式转换为可检测的信号,并用跳数、任务指纹、裁决规则和上下文预算建立止损机制。
学习目标
- 识别循环对话、重复劳动、冲突结论和上下文膨胀的可观测信号
- 为协作流程设置最大跳数、去重、冲突裁决与压缩规则
- 用代码实现最小防护层,让异常协作可以被停止和解释
先把失效模式变成可检测条件
循环对话通常表现为相同角色路径或相同任务状态反复出现;重复劳动表现为多个 Agent 对同一目标执行近似动作;冲突结论表现为同一决策键出现互斥结果;上下文膨胀则表现为历史消息持续累积,却没有增加新的可用事实。

由编排服务持有受控的任务状态。可在派发前检查预算、原子预留工作,在执行后根据可核验结果更新状态。提示词可以表达任务边界,状态转换由程序执行。
用最小守卫阻止循环和重复劳动
下面在同一进程演示协作保护。编排器为同一个逻辑动作构造相同的元组键,组成项是租户、任务、操作、对象和输入版本。键不含 Agent 名称,换角色也能识别同一工作。若安排独立复核,应定义单独操作与输出契约。示例的次数预算覆盖实际发出的尝试。业务系统还可单独限制角色移交跳数和整次运行的资源。
from threading import Lock
class WorkGuard:
def __init__(self, max_dispatches=4, max_attempts=2):
if any(type(value) is not int or value < 1 for value in (max_dispatches, max_attempts)):
raise ValueError("budgets must be positive integers")
self.max_dispatches = max_dispatches
self.max_attempts = max_attempts
self.total = 0
self.attempts = {}
self.in_flight = {}
self.finished = set()
self.lock = Lock()
def reserve(self, key):
with self.lock:
if key in self.finished or key in self.in_flight:
return "duplicate", None
if self.total >= self.max_dispatches:
return "budget_exhausted", None
attempt = self.attempts.get(key, 0) + 1
if attempt > self.max_attempts:
return "attempt_limit", None
self.total += 1
self.attempts[key] = attempt
self.in_flight[key] = attempt
return "run", attempt
def settle(self, key, attempt, outcome):
if outcome not in ("done", "blocked", "retryable", "unknown"):
raise ValueError("invalid outcome")
with self.lock:
if type(attempt) is not int or self.in_flight.get(key) != attempt:
return "stale"
if outcome == "unknown":
return "needs_reconciliation"
del self.in_flight[key]
if outcome in ("done", "blocked"):
self.finished.add(key)
return outcome
if __name__ == "__main__":
guard = WorkGuard(max_dispatches=2)
work = ("team-a", "case-42", "read_quote", "quote-1", "v3")
print(guard.reserve(work))
print(guard.reserve(work))
print(guard.settle(work, 1, "retryable"))
print(guard.reserve(work))
print(guard.settle(work, 1, "done"))
print(guard.settle(work, 2, "unknown"))
print(guard.reserve(work))
print(guard.reserve(("team-a", "case-42", "read_sla", "sla-1", "v3")))预期输出
('run', 1)
('duplicate', None)
retryable
('run', 2)
stale
needs_reconciliation
('duplicate', None)
('budget_exhausted', None)retryable 由编排层按已知失败和工具契约判定。遇到外部写入超时等结果未知的情况,保留在途记录,等待按稳定业务键查询结果。多进程系统应持久化预留状态和尝试号,使用原子状态更新,并对外部副作用应用第 05 章的幂等机制。进程内锁不能跨实例生效。需要限制任务移交跳数时,将当前跳数纳入上一课的条件更新,在每次接受移交的事务中递增。达到上限时拒绝下一次移交,即使改换目标角色也一样。
收敛冲突与上下文
给每个决策记录目标、输入版本、证据引用和当前裁决状态。两个专家针对同一适用范围给出互斥结论时,先核对证据版本、适用条件和规则优先级。仍不能解决就标记为冲突并转人工。自报置信度或多数票不能替代证据。后续环节读取已核验的决策记录,而不是把未决意见当成可执行结论。
上下文预算按真实模型的 tokenizer 计算。保留当前目标、硬约束、已核验事实、未决问题和证据引用。原始材料存入按权限访问的记录,摘要不能扩大权限或替代当前审批状态。
建立停止与升级条件
编排器应区分已完成、待补输入、待核对外部状态、权限阻断和预算耗尽。日志记录任务、证据版本、尝试号、终止条件与可用的下一步。权限不足和未解决冲突都应阻止自动执行下一项写操作。