AI Agent / 系统课时

控制协作失效

控制协作失效

多 Agent 系统一旦缺少边界,很容易出现互相转交、重复搜索、结论冲突和上下文不断膨胀。本课把这些失效模式转换为可检测的信号,并用跳数、任务指纹、裁决规则和上下文预算建立止损机制。

学习目标

  • 识别循环对话、重复劳动、冲突结论和上下文膨胀的可观测信号
  • 为协作流程设置最大跳数、去重、冲突裁决与压缩规则
  • 用代码实现最小防护层,让异常协作可以被停止和解释

先把失效模式变成可检测条件

循环对话通常表现为相同角色路径或相同任务状态反复出现;重复劳动表现为多个 Agent 对同一目标执行近似动作;冲突结论表现为同一决策键出现互斥结果;上下文膨胀则表现为历史消息持续累积,却没有增加新的可用事实。

多 Agent 协作失效控制流程

由编排服务持有受控的任务状态。可在派发前检查预算、原子预留工作,在执行后根据可核验结果更新状态。提示词可以表达任务边界,状态转换由程序执行。

用最小守卫阻止循环和重复劳动

下面在同一进程演示协作保护。编排器为同一个逻辑动作构造相同的元组键,组成项是租户、任务、操作、对象和输入版本。键不含 Agent 名称,换角色也能识别同一工作。若安排独立复核,应定义单独操作与输出契约。示例的次数预算覆盖实际发出的尝试。业务系统还可单独限制角色移交跳数和整次运行的资源。

python
from threading import Lock


class WorkGuard:
    def __init__(self, max_dispatches=4, max_attempts=2):
        if any(type(value) is not int or value < 1 for value in (max_dispatches, max_attempts)):
            raise ValueError("budgets must be positive integers")
        self.max_dispatches = max_dispatches
        self.max_attempts = max_attempts
        self.total = 0
        self.attempts = {}
        self.in_flight = {}
        self.finished = set()
        self.lock = Lock()

    def reserve(self, key):
        with self.lock:
            if key in self.finished or key in self.in_flight:
                return "duplicate", None
            if self.total >= self.max_dispatches:
                return "budget_exhausted", None
            attempt = self.attempts.get(key, 0) + 1
            if attempt > self.max_attempts:
                return "attempt_limit", None
            self.total += 1
            self.attempts[key] = attempt
            self.in_flight[key] = attempt
            return "run", attempt

    def settle(self, key, attempt, outcome):
        if outcome not in ("done", "blocked", "retryable", "unknown"):
            raise ValueError("invalid outcome")
        with self.lock:
            if type(attempt) is not int or self.in_flight.get(key) != attempt:
                return "stale"
            if outcome == "unknown":
                return "needs_reconciliation"
            del self.in_flight[key]
            if outcome in ("done", "blocked"):
                self.finished.add(key)
            return outcome


if __name__ == "__main__":
    guard = WorkGuard(max_dispatches=2)
    work = ("team-a", "case-42", "read_quote", "quote-1", "v3")
    print(guard.reserve(work))
    print(guard.reserve(work))
    print(guard.settle(work, 1, "retryable"))
    print(guard.reserve(work))
    print(guard.settle(work, 1, "done"))
    print(guard.settle(work, 2, "unknown"))
    print(guard.reserve(work))
    print(guard.reserve(("team-a", "case-42", "read_sla", "sla-1", "v3")))

预期输出

text
('run', 1)
('duplicate', None)
retryable
('run', 2)
stale
needs_reconciliation
('duplicate', None)
('budget_exhausted', None)

retryable 由编排层按已知失败和工具契约判定。遇到外部写入超时等结果未知的情况,保留在途记录,等待按稳定业务键查询结果。多进程系统应持久化预留状态和尝试号,使用原子状态更新,并对外部副作用应用第 05 章的幂等机制。进程内锁不能跨实例生效。需要限制任务移交跳数时,将当前跳数纳入上一课的条件更新,在每次接受移交的事务中递增。达到上限时拒绝下一次移交,即使改换目标角色也一样。

收敛冲突与上下文

给每个决策记录目标、输入版本、证据引用和当前裁决状态。两个专家针对同一适用范围给出互斥结论时,先核对证据版本、适用条件和规则优先级。仍不能解决就标记为冲突并转人工。自报置信度或多数票不能替代证据。后续环节读取已核验的决策记录,而不是把未决意见当成可执行结论。

上下文预算按真实模型的 tokenizer 计算。保留当前目标、硬约束、已核验事实、未决问题和证据引用。原始材料存入按权限访问的记录,摘要不能扩大权限或替代当前审批状态。

建立停止与升级条件

编排器应区分已完成、待补输入、待核对外部状态、权限阻断和预算耗尽。日志记录任务、证据版本、尝试号、终止条件与可用的下一步。权限不足和未解决冲突都应阻止自动执行下一项写操作。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

控制协作失效

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通