AI Agent / 系统课时

控制工具权限

控制工具权限

本课解决智能体执行工具时如何避免越权操作的问题,最终建立允许、询问确认、禁止三类权限边界,让工具调用具备可控性和安全性。

学习目标

  • 理解工具权限控制在 Agent Runtime 中的作用
  • 掌握 allow、ask、deny 三类权限策略的设计方式
  • 能够实现基础的工具调用权限校验流程

为什么工具需要权限控制

智能体调用工具后,实际影响的不只是模型输出,还可能修改文件、执行命令、访问外部资源。如果所有工具都默认开放,模型一次错误判断就可能造成不可逆影响。

权限控制的核心目标不是限制智能体能力,而是在能力开放和风险可控之间建立边界。常见设计会把工具执行请求先经过权限策略层,再决定是否继续执行。

智能体工具权限决策流程图

设计三类权限状态

最基础的权限模型可以划分为三个状态。

状态 含义 典型场景
allow 自动允许执行 读取项目文件、查询状态
ask 执行前需要确认 删除文件、修改配置
deny 永久禁止执行 危险命令、敏感数据访问

权限判断通常结合工具名称、参数内容和当前任务上下文。例如读取代码文件风险较低,而执行删除命令则需要额外确认。

实现权限校验入口

权限系统不应该散落在每个工具内部,而应该集中在工具调用层。这样新增工具时,只需要声明风险等级即可复用规则。

下面是一个 TypeScript 片段示例,展示权限策略判断过程。

ts
type Permission = "allow" | "ask" | "deny";

interface ToolRequest {
  name: string;
  args: Record<string, unknown>;
}

function checkPermission(request: ToolRequest): Permission {
  // 高风险工具直接禁止
  if (request.name === "delete_file") {
    return "deny";
  }

  // 修改类操作需要人工确认
  if (request.name === "edit_file") {
    return "ask";
  }

  return "allow";
}

const result = checkPermission({
  name: "edit_file",
  args: { path: "<PATH>" }
});

console.log(result);

预期输出

text
ask

权限策略的扩展方式

生产环境中通常不会只判断工具名称,还会加入参数规则。例如限制只能操作指定工作目录,禁止访问密钥文件,或者要求外部网络请求必须经过审批。

一个完整权限系统通常包含策略配置、风险识别、用户确认、执行审计四部分。权限判断结果也应该记录到执行轨迹中,方便后续排查。

常见实现错误

一个常见错误是只在用户界面提示风险,而不在 Agent Runtime 中真正拦截。由于工具调用最终发生在后台执行层,安全边界必须放在那里。

另一个错误是权限规则过于粗糙。例如只允许或禁止某个工具,却忽略工具参数差异,会导致低风险和高风险操作无法区分。

控制工具权限的关键是让智能体拥有足够能力完成任务,同时让每一次高风险动作都有明确边界和可追踪结果。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

控制工具权限

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通