机器学习与深度学习 / 系统课时

智能体工作循环

智能体工作循环

智能体在应用给定的目标和约束下,可以依据上一步观察决定下一步行动。下面用一套最小的“规划、执行、观察、更新状态”循环讲解,多轮运行可选用短期状态或长期存储。本课将拆解这个闭环,并用一个最小程序展示智能体如何根据新观察调整下一步行动。

学习目标

  • 说明智能体循环中各阶段的职责
  • 区分工具调用与持续任务循环
  • 能设置停止条件、记忆范围和失败保护

五个环节如何形成闭环

感知负责读取用户目标、环境状态和工具结果;规划把目标拆成当前可执行的一步;行动调用工具或产生输出;观察读取行动结果;记忆保存后续步骤需要的信息。

智能体感知规划行动观察记忆循环

一次函数调用只解决一个明确动作,而智能体会根据动作结果继续决策。例如查询航班后发现无票,智能体可能调整日期再次查询;如果没有循环和状态更新,它只能把无票结果返回给用户。

最小可运行循环

用规则代替模型规划,处理固定任务“按优先级整理待办”。读取结果必须是 Task 列表,空列表和已排序各有明确完成状态。优先级数字越小越紧急。预算耗尽返回独立状态,便于调用方区分结果是否完成。

python
from dataclasses import dataclass

@dataclass(frozen=True)
class Task:
    name: str
    priority: int

def plan(tasks):
    if tasks is None:
        return "read"
    if not tasks:
        return "finish_empty"
    return "sort"

def run(load, max_steps=2, cancelled=lambda: False):
    tasks = None
    trace = []
    for _ in range(max_steps):
        if cancelled():
            return "cancelled", [], trace
        action = plan(tasks)
        trace.append(action)
        if action == "read":
            try:
                tasks = load()
            except TimeoutError:
                return "tool_timeout", [], trace
            if not isinstance(tasks, list) or not all(isinstance(t, Task) for t in tasks):
                return "invalid_observation", [], trace
        elif action == "finish_empty":
            return "done", [], trace
        elif action == "sort":
            ordered = sorted(tasks, key=lambda t: t.priority)
            return "done", [task.name for task in ordered], trace
        else:
            return "unknown_action", [], trace
    return "budget_exhausted", [], trace

print(run(lambda: [Task("更新文档", 2), Task("修复故障", 1)]))
print(run(lambda: []))
print(run(lambda: [Task("修复故障", 1)], max_steps=1))

三次输出分别是完成并得到两项排序、空列表完成、预算耗尽。若读取动作超时,直接返回可识别的停止原因。若换成模型规划,动作仍要经过枚举、参数与权限校验。短期状态、长期知识和审计事件可独立保存。

停止条件与失败保护

智能体必须有明确停止条件,例如目标完成、用户取消、达到最大轮数、预算耗尽或连续失败。没有停止条件的循环可能重复调用工具,持续消耗资源,甚至反复执行有副作用的操作。

每次行动前都应检查权限和风险。读取公开网页可以自动执行,发送消息、修改数据和支付操作则应提高确认级别。连续失败时应保留错误信息并交还人工,而不是不断改写参数尝试。

记忆应该保存什么

记忆应保存后续决策真正需要的事实,例如已完成步骤、工具返回的标识、用户确认和失败原因。重复对话、无关网页内容和敏感信息不应默认长期保存。

长期记忆还需要过期、纠错和删除机制。错误信息一旦被持久化,智能体可能在后续任务中反复引用,因此“记住更多”不等于“表现更好”。

评估一个智能体

不能只看最终答案,还要检查完成率、工具调用次数、总耗时、费用、错误恢复和越权次数。相同任务如果能用两次调用完成,就不应让智能体绕行十轮。

评估可记录工具名、请求 ID、脱敏参数摘要、返回状态、耗时和停止原因,复盘目标、实际执行与终态是否一致。超时、拒绝和预算耗尽分别统计。保存范围、保留时间和可访问人员应由应用定义。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

智能体工作循环

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通