AI Agent / 系统课时

实现人工确认节点

实现人工确认节点

本篇解决智能体执行高风险动作时缺少人工授权的问题,通过确认节点暂停自动流程,在删除文件、安装依赖或访问外部资源前等待用户明确同意,提升执行可靠性。

学习目标

  • 理解人工确认节点在智能体流程中的作用
  • 掌握高风险操作的确认触发条件
  • 能够实现简单的暂停与恢复机制

为什么需要人工确认

智能体具有自动规划和执行能力,但模型判断并不等同于用户授权。涉及数据删除、费用产生、外部通信或权限变化的操作,都需要额外确认。

人工确认节点的核心不是替代智能体,而是在自动化流程中增加一个明确的决策边界。

设计确认触发条件

确认策略应该根据风险等级决定,而不是让所有操作都询问用户。常见需要确认的场景包括:

  • 删除或覆盖用户数据
  • 安装新的软件依赖
  • 向外部系统发送数据
  • 执行权限提升操作

可以使用简单规则生成确认需求:

python
HIGH_RISK_ACTIONS = {
    "delete_file",
    "install_package",
    "send_external_request"
}

def require_confirmation(action):
    return action in HIGH_RISK_ACTIONS

print(require_confirmation("delete_file"))

预期输出

text
True

实际项目中,风险判断还可以结合用户身份、资源范围和历史审批记录。

实现暂停与恢复流程

人工确认节点通常需要保存当前执行状态,等待用户返回结果后继续运行。一个简单实现可以把状态分为等待确认和继续执行两个阶段。

python
state = {
    "action": "delete_file",
    "status": "waiting_confirmation"
}

user_confirmed = True

if user_confirmed:
    state["status"] = "running"

print(state["status"])

预期结果

text
running

生产环境需要保存更多上下文,例如请求 ID、操作参数和确认用户信息。

确认信息设计原则

好的确认提示应该让用户知道三件事:将执行什么操作、影响哪些资源、确认后会产生什么结果。

例如不要只显示“是否继续”,而应该展示“将删除 <PATH> 下的文件,共影响 <ID> 个对象,是否继续”。这样用户才能做出有效判断。

防止确认机制失效

人工确认也可能被错误设计。例如默认选择“同意”、隐藏风险信息或让确认文本过于复杂,都会降低保护效果。

确认节点应保证:

  • 用户主动选择结果
  • 操作范围不可被后续流程偷偷修改
  • 确认记录可以追踪和审计

本课总结

  • 人工确认节点用于连接自动执行能力和用户授权边界。
  • 高风险操作应按风险等级选择确认策略。
  • 确认流程需要保存状态并保证审计可追踪。

下一课预告

下一课将继续介绍智能体可靠性设计中的执行隔离与权限控制方法。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

实现人工确认节点

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通