AI Agent / 系统课时
加入人工确认节点
加入人工确认节点
当 Agent 准备执行付款、删除、发布等不可逆或高影响动作时,不能只依赖模型自己的判断。本节把高风险动作拆成“生成计划、暂停、人工决策、恢复执行”四段,并用一个可运行示例实现可审计、可拒绝、可重复提交的确认节点。
学习目标
- 识别哪些动作应在真正执行前进入人工确认状态
- 实现一个不会重复执行高风险动作的暂停与恢复流程
- 为确认请求保留动作摘要、决策结果和审计信息
把确认放在副作用之前
人工确认节点的关键不是“弹一个确认框”,而是在副作用发生之前持久化待执行计划并停止工作流。付款、删除、公开发布、批量通知、权限变更等动作一旦发生就可能难以撤回,因此 Agent 最多只能先准备参数,不能先执行再补确认。
一个安全流程通常包含四个状态:PLANNED 表示动作已生成但尚未执行;WAITING_APPROVAL 表示等待人工判断;APPROVED 或 REJECTED 记录明确决策;只有 APPROVED 才允许进入 EXECUTED。确认者应来自工作流外部的人或可信审批系统,而不是让模型自己生成“同意”。

实现可暂停和恢复的确认节点
以下用不可变参数表示待发布内容。审批绑定整个请求并带有效期。模拟发布服务按操作 ID 返回同一回执。
from dataclasses import dataclass
@dataclass(frozen=True)
class Request:
operation_id: str
target: str
message: str
@dataclass(frozen=True)
class Approval:
request: Request
reviewer: str
expires_at: int
def publish(request, approval, now, receipts):
if approval is None or approval.request != request or now >= approval.expires_at:
return "confirmation_required"
if request.operation_id in receipts:
original, receipt = receipts[request.operation_id]
return receipt if original == request else "id_conflict"
receipt = "published:" + request.operation_id
receipts[request.operation_id] = (request, receipt)
return receipt
request = Request("notice-001", "release", "发布版本 2.0 公告")
approval = Approval(request, "alice", 200)
receipts = {}
print(publish(request, None, 199, receipts))
print(publish(request, approval, 199, receipts))
print(publish(request, approval, 199, receipts))
changed = Request("notice-001", "release", "发布版本 2.1 公告")
print(publish(changed, approval, 199, receipts))
print(publish(request, approval, 200, receipts))
print(len(receipts))相同请求在有效期内重复提交会读回同一回执。未批准、内容变化或到期时返回 confirmation_required,只有一个发布记录。真实系统从认证和审批服务取得批准,不接受模型填入的审核人。应将待审、拒绝、到期和回执状态持久化。例子里的字典只用于单进程演示。
让确认真正可审计
确认页面或消息至少要让人看清“将要做什么”和“影响多大”。不要只显示“是否确认”,而应展示动作类型、目标对象、关键参数、影响范围和可逆性;金额、删除数量、发布环境等高风险字段应突出显示。审批结果必须与具体 action_id 绑定,避免旧确认被误用于新的动作。
恢复执行时还要再次校验状态和业务前提。例如删除对象可能已被其他流程修改,付款金额可能已变化,发布版本可能已被替换。人工确认不是一次性绕过所有检查的通行证,而是副作用之前的一道门禁。
处理超时、拒绝与重复提交
生产工作流应为等待确认设置过期时间。超时后可以进入 EXPIRED 或重新生成计划,但不应默认批准。拒绝也应成为正常状态,而不是异常;Agent 可以记录拒绝原因并回到规划阶段,但必须生成新的动作版本后再申请确认。
对重复点击“批准”、网络重试或工作流重放,应使用原子状态更新和支持幂等键的执行服务。外部服务未提供幂等或查询能力时,超时后的结果可能未知,应先核对状态再决定是否重试。最稳妥的原则是:审批决定可以重复读取,副作用执行不能因重复恢复而重复发生。