AI Agent / 系统课时

加入人工确认节点

加入人工确认节点

当 Agent 准备执行付款、删除、发布等不可逆或高影响动作时,不能只依赖模型自己的判断。本节把高风险动作拆成“生成计划、暂停、人工决策、恢复执行”四段,并用一个可运行示例实现可审计、可拒绝、可重复提交的确认节点。

学习目标

  • 识别哪些动作应在真正执行前进入人工确认状态
  • 实现一个不会重复执行高风险动作的暂停与恢复流程
  • 为确认请求保留动作摘要、决策结果和审计信息

把确认放在副作用之前

人工确认节点的关键不是“弹一个确认框”,而是在副作用发生之前持久化待执行计划并停止工作流。付款、删除、公开发布、批量通知、权限变更等动作一旦发生就可能难以撤回,因此 Agent 最多只能先准备参数,不能先执行再补确认。

一个安全流程通常包含四个状态:PLANNED 表示动作已生成但尚未执行;WAITING_APPROVAL 表示等待人工判断;APPROVED 或 REJECTED 记录明确决策;只有 APPROVED 才允许进入 EXECUTED。确认者应来自工作流外部的人或可信审批系统,而不是让模型自己生成“同意”。

高风险动作的人工确认状态流

实现可暂停和恢复的确认节点

以下用不可变参数表示待发布内容。审批绑定整个请求并带有效期。模拟发布服务按操作 ID 返回同一回执。

python
from dataclasses import dataclass

@dataclass(frozen=True)
class Request:
    operation_id: str
    target: str
    message: str

@dataclass(frozen=True)
class Approval:
    request: Request
    reviewer: str
    expires_at: int

def publish(request, approval, now, receipts):
    if approval is None or approval.request != request or now >= approval.expires_at:
        return "confirmation_required"
    if request.operation_id in receipts:
        original, receipt = receipts[request.operation_id]
        return receipt if original == request else "id_conflict"
    receipt = "published:" + request.operation_id
    receipts[request.operation_id] = (request, receipt)
    return receipt

request = Request("notice-001", "release", "发布版本 2.0 公告")
approval = Approval(request, "alice", 200)
receipts = {}
print(publish(request, None, 199, receipts))
print(publish(request, approval, 199, receipts))
print(publish(request, approval, 199, receipts))
changed = Request("notice-001", "release", "发布版本 2.1 公告")
print(publish(changed, approval, 199, receipts))
print(publish(request, approval, 200, receipts))
print(len(receipts))

相同请求在有效期内重复提交会读回同一回执。未批准、内容变化或到期时返回 confirmation_required,只有一个发布记录。真实系统从认证和审批服务取得批准,不接受模型填入的审核人。应将待审、拒绝、到期和回执状态持久化。例子里的字典只用于单进程演示。

让确认真正可审计

确认页面或消息至少要让人看清“将要做什么”和“影响多大”。不要只显示“是否确认”,而应展示动作类型、目标对象、关键参数、影响范围和可逆性;金额、删除数量、发布环境等高风险字段应突出显示。审批结果必须与具体 action_id 绑定,避免旧确认被误用于新的动作。

恢复执行时还要再次校验状态和业务前提。例如删除对象可能已被其他流程修改,付款金额可能已变化,发布版本可能已被替换。人工确认不是一次性绕过所有检查的通行证,而是副作用之前的一道门禁。

处理超时、拒绝与重复提交

生产工作流应为等待确认设置过期时间。超时后可以进入 EXPIRED 或重新生成计划,但不应默认批准。拒绝也应成为正常状态,而不是异常;Agent 可以记录拒绝原因并回到规划阶段,但必须生成新的动作版本后再申请确认。

对重复点击“批准”、网络重试或工作流重放,应使用原子状态更新和支持幂等键的执行服务。外部服务未提供幂等或查询能力时,超时后的结果可能未知,应先核对状态再决定是否重试。最稳妥的原则是:审批决定可以重复读取,副作用执行不能因重复恢复而重复发生。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

加入人工确认节点

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通