AI Agent / 系统课时

理解 Agent 运行循环

理解 Agent 运行循环

Agent 不是一次性“想完再做”,而是在观察、推理、行动和反馈之间反复迭代,并在达到目标或触发限制时终止。理解这个循环后,你就能看懂多数 Agent 框架的执行结构,也能知道循环为什么会失控以及应在哪里加约束。

学习目标

  • 说明观察、推理、行动、反馈与终止各自承担的职责
  • 理解一次工具调用如何转化为下一轮决策依据
  • 用最小循环实现并验证一个可终止的 Agent

一轮循环包含什么

一次典型循环可以拆成五个部分:观察读取用户目标和当前状态;推理判断下一步应该做什么;行动调用工具或执行操作;反馈把工具结果写回状态;终止判断目标是否完成、是否失败,或是否达到步数与资源上限。

这五个部分不是五个独立模块的固定实现,而是一个职责划分。不同框架可能把推理与行动合并成一次模型调用,也可能把反馈直接追加到消息历史,但控制逻辑仍然是在不断回答两个问题:现在知道什么,以及下一步做什么。

Agent 从观察到终止的运行闭环

为什么反馈必须回到状态里

如果 Agent 调用了工具,却没有把结果纳入下一轮观察,它就无法根据环境变化调整计划。例如第一次查询库存得到“缺货”,下一轮仍然按照原计划下单,就说明工具结果没有真正参与决策。

因此,Agent 的状态至少要能保存当前目标、已经完成的步骤、最近一次工具结果以及必要的约束。复杂系统还会加入短期记忆、长期记忆、预算、权限和人工审批状态,但这些都建立在同一个闭环上。

用最小代码跑一遍循环

下面用 Python 模拟从已批准的商品清单里查找有货商品。decide() 扮演策略。实际系统可以让模型根据目标和已查证据提出类似的结构化动作。运行时仍要验证动作、商品范围与库存结果,并独立判定结束状态。这里的预算按模型提出动作的轮次计算,确认完成也消耗一轮。

python
def decide(allowed, evidence):
    for item, quantity in evidence.items():
        if quantity > 0:
            return "finish", item
    for item in allowed:
        if item not in evidence:
            return "check_stock", item
    return "finish", None


def run_agent(allowed, lookup, max_steps=3, policy=decide):
    evidence = {}
    for _ in range(max_steps):
        proposal = policy(allowed, evidence.copy())
        if not isinstance(proposal, tuple) or len(proposal) != 2:
            return "blocked", None
        action, item = proposal
        if item is not None and not isinstance(item, str):
            return "blocked", None
        if action == "finish":
            if item is not None and evidence.get(item, 0) > 0:
                return "found", item
            if item is None and all(evidence.get(name) == 0 for name in allowed):
                return "unavailable", None
            return "unverified", None
        if action != "check_stock" or item not in allowed:
            return "blocked", None
        try:
            quantity = lookup(item)
        except (TimeoutError, OSError):
            return "tool_error", None
        if type(quantity) is not int or quantity < 0:
            return "tool_error", None
        evidence[item] = quantity
    return "step_limit", None


if __name__ == "__main__":
    allowed = ("keyboard", "mouse")
    stock = {"keyboard": 0, "mouse": 3}
    print(run_agent(allowed, stock.__getitem__))
    print(run_agent(allowed, dict.fromkeys(allowed, 0).__getitem__))
    print(run_agent(allowed, stock.__getitem__, max_steps=1))
    print(run_agent(allowed, stock.__getitem__, policy=lambda *_: ("buy", "mouse")))

预期输出

text
('found', 'mouse')
('unavailable', None)
('step_limit', None)
('blocked', None)

查到键盘缺货后,下一轮选择鼠标。仅当工具已经确认清单里的所有商品都没有库存,才会返回 unavailable。如果预算先用完,已看到的证据仍不足以判断所有商品。真实工具还要处理鉴权、响应格式和网络超时。对库存结果的验证仅说明查询当时有货,下单需要在业务端再次检查并校验权限。

终止条件决定 Agent 是否可控

Agent 不能只设置“任务完成时结束”,因为模型可能一直认为还需要继续搜索或尝试。工程上通常至少要同时存在目标终止、失败终止和保护性终止三类条件。

目标终止要求证据满足验收标准。失败可以来自关键前提缺失、工具错误或无权限。最大步数只限制循环次数,单次调用超时、总截止时间、费用预算及取消也需要各自控制。对可能产生副作用的工具,在执行前校验授权与必要审批。调用超时后,先判断外部操作是否已发生,再决定如何重试。

一个可用的 Agent,本质上不是“让模型不断思考”,而是让模型在状态、工具和终止条件共同约束的循环中做有限决策。只要这三个边界清楚,后续无论换成哪种 Agent 框架,都能映射回同一套运行逻辑。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

理解 Agent 运行循环

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通