AI Agent / 系统课时
理解 Agent 运行循环
理解 Agent 运行循环
Agent 不是一次性“想完再做”,而是在观察、推理、行动和反馈之间反复迭代,并在达到目标或触发限制时终止。理解这个循环后,你就能看懂多数 Agent 框架的执行结构,也能知道循环为什么会失控以及应在哪里加约束。
学习目标
- 说明观察、推理、行动、反馈与终止各自承担的职责
- 理解一次工具调用如何转化为下一轮决策依据
- 用最小循环实现并验证一个可终止的 Agent
一轮循环包含什么
一次典型循环可以拆成五个部分:观察读取用户目标和当前状态;推理判断下一步应该做什么;行动调用工具或执行操作;反馈把工具结果写回状态;终止判断目标是否完成、是否失败,或是否达到步数与资源上限。
这五个部分不是五个独立模块的固定实现,而是一个职责划分。不同框架可能把推理与行动合并成一次模型调用,也可能把反馈直接追加到消息历史,但控制逻辑仍然是在不断回答两个问题:现在知道什么,以及下一步做什么。

为什么反馈必须回到状态里
如果 Agent 调用了工具,却没有把结果纳入下一轮观察,它就无法根据环境变化调整计划。例如第一次查询库存得到“缺货”,下一轮仍然按照原计划下单,就说明工具结果没有真正参与决策。
因此,Agent 的状态至少要能保存当前目标、已经完成的步骤、最近一次工具结果以及必要的约束。复杂系统还会加入短期记忆、长期记忆、预算、权限和人工审批状态,但这些都建立在同一个闭环上。
用最小代码跑一遍循环
下面用 Python 模拟从已批准的商品清单里查找有货商品。decide() 扮演策略。实际系统可以让模型根据目标和已查证据提出类似的结构化动作。运行时仍要验证动作、商品范围与库存结果,并独立判定结束状态。这里的预算按模型提出动作的轮次计算,确认完成也消耗一轮。
def decide(allowed, evidence):
for item, quantity in evidence.items():
if quantity > 0:
return "finish", item
for item in allowed:
if item not in evidence:
return "check_stock", item
return "finish", None
def run_agent(allowed, lookup, max_steps=3, policy=decide):
evidence = {}
for _ in range(max_steps):
proposal = policy(allowed, evidence.copy())
if not isinstance(proposal, tuple) or len(proposal) != 2:
return "blocked", None
action, item = proposal
if item is not None and not isinstance(item, str):
return "blocked", None
if action == "finish":
if item is not None and evidence.get(item, 0) > 0:
return "found", item
if item is None and all(evidence.get(name) == 0 for name in allowed):
return "unavailable", None
return "unverified", None
if action != "check_stock" or item not in allowed:
return "blocked", None
try:
quantity = lookup(item)
except (TimeoutError, OSError):
return "tool_error", None
if type(quantity) is not int or quantity < 0:
return "tool_error", None
evidence[item] = quantity
return "step_limit", None
if __name__ == "__main__":
allowed = ("keyboard", "mouse")
stock = {"keyboard": 0, "mouse": 3}
print(run_agent(allowed, stock.__getitem__))
print(run_agent(allowed, dict.fromkeys(allowed, 0).__getitem__))
print(run_agent(allowed, stock.__getitem__, max_steps=1))
print(run_agent(allowed, stock.__getitem__, policy=lambda *_: ("buy", "mouse")))预期输出
('found', 'mouse')
('unavailable', None)
('step_limit', None)
('blocked', None)查到键盘缺货后,下一轮选择鼠标。仅当工具已经确认清单里的所有商品都没有库存,才会返回 unavailable。如果预算先用完,已看到的证据仍不足以判断所有商品。真实工具还要处理鉴权、响应格式和网络超时。对库存结果的验证仅说明查询当时有货,下单需要在业务端再次检查并校验权限。
终止条件决定 Agent 是否可控
Agent 不能只设置“任务完成时结束”,因为模型可能一直认为还需要继续搜索或尝试。工程上通常至少要同时存在目标终止、失败终止和保护性终止三类条件。
目标终止要求证据满足验收标准。失败可以来自关键前提缺失、工具错误或无权限。最大步数只限制循环次数,单次调用超时、总截止时间、费用预算及取消也需要各自控制。对可能产生副作用的工具,在执行前校验授权与必要审批。调用超时后,先判断外部操作是否已发生,再决定如何重试。
一个可用的 Agent,本质上不是“让模型不断思考”,而是让模型在状态、工具和终止条件共同约束的循环中做有限决策。只要这三个边界清楚,后续无论换成哪种 Agent 框架,都能映射回同一套运行逻辑。