AI Agent / 系统课时
实现人工确认节点
实现人工确认节点
本篇解决智能体执行高风险动作时缺少人工授权的问题,通过确认节点暂停自动流程,在删除文件、安装依赖或访问外部资源前等待用户明确同意,提升执行可靠性。
学习目标
- 理解人工确认节点在智能体流程中的作用
- 掌握高风险操作的确认触发条件
- 能够实现简单的暂停与恢复机制
为什么需要人工确认
智能体具有自动规划和执行能力,但模型判断并不等同于用户授权。涉及数据删除、费用产生、外部通信或权限变化的操作,都需要额外确认。
人工确认节点的核心不是替代智能体,而是在自动化流程中增加一个明确的决策边界。
设计确认触发条件
确认策略应该根据风险等级决定,而不是让所有操作都询问用户。常见需要确认的场景包括:
- 删除或覆盖用户数据
- 安装新的软件依赖
- 向外部系统发送数据
- 执行权限提升操作
可以使用简单规则生成确认需求:
python
HIGH_RISK_ACTIONS = {
"delete_file",
"install_package",
"send_external_request"
}
def require_confirmation(action):
return action in HIGH_RISK_ACTIONS
print(require_confirmation("delete_file"))预期输出
text
True实际项目中,风险判断还可以结合用户身份、资源范围和历史审批记录。
实现暂停与恢复流程
人工确认节点通常需要保存当前执行状态,等待用户返回结果后继续运行。一个简单实现可以把状态分为等待确认和继续执行两个阶段。
python
state = {
"action": "delete_file",
"status": "waiting_confirmation"
}
user_confirmed = True
if user_confirmed:
state["status"] = "running"
print(state["status"])预期结果
text
running生产环境需要保存更多上下文,例如请求 ID、操作参数和确认用户信息。
确认信息设计原则
好的确认提示应该让用户知道三件事:将执行什么操作、影响哪些资源、确认后会产生什么结果。
例如不要只显示“是否继续”,而应该展示“将删除 <PATH> 下的文件,共影响 <ID> 个对象,是否继续”。这样用户才能做出有效判断。
防止确认机制失效
人工确认也可能被错误设计。例如默认选择“同意”、隐藏风险信息或让确认文本过于复杂,都会降低保护效果。
确认节点应保证:
- 用户主动选择结果
- 操作范围不可被后续流程偷偷修改
- 确认记录可以追踪和审计
本课总结
- 人工确认节点用于连接自动执行能力和用户授权边界。
- 高风险操作应按风险等级选择确认策略。
- 确认流程需要保存状态并保证审计可追踪。
下一课预告
下一课将继续介绍智能体可靠性设计中的执行隔离与权限控制方法。
按自己的节奏,确认真正理解。