机器学习与深度学习 / 系统课时

函数调用与工具使用

函数调用与工具使用

函数调用让模型不只生成文字,还能输出结构化的工具名称和参数,由应用程序执行查询、计算或业务操作。关键点是:模型负责提出调用意图,真正的权限校验、参数验证和函数执行必须由受控代码完成。

学习目标

  • 解释模型、编排程序和外部工具之间的职责
  • 能实现工具注册、参数校验与结果回传
  • 识别越权调用、错误参数和重复执行等风险

一次工具调用经过哪些步骤

应用先向模型提供允许使用的工具描述,包括工具名、用途和参数结构。模型根据用户请求决定直接回答,还是返回一个结构化调用请求。

编排程序收到请求后,检查工具是否在允许列表中、参数是否符合类型和范围、当前用户是否有权限。校验通过后才执行函数,并把工具结果交回模型生成最终说明。

函数调用的模型与工具协作流程

工具结果可能是数据库记录、天气信息、计算值或操作状态。模型应把结果解释给用户,但不能把工具返回的任意文本当作新的系统指令。

最小可运行示例

应用持有当前会话的权限。模型的调用请求只有调用 ID、工具名和参数,不能授予自己权限。下面按白名单执行只读查询,用合成天气记录展示应用返回的结果和对应 ID。

python
import json

def dispatch(message, permissions):
    if not isinstance(message, dict) or set(message) != {"id", "tool_name", "arguments"}:
        raise ValueError("调用结构错误")
    call_id, name, args = message["id"], message["tool_name"], message["arguments"]
    if not isinstance(call_id, str) or not call_id or len(call_id) > 64:
        raise ValueError("调用 ID 无效")
    if name != "get_weather":
        raise ValueError("未知工具")
    if "weather:read" not in permissions:
        raise PermissionError("缺少读取天气权限")
    if not isinstance(args, dict) or set(args) != {"city"}:
        raise ValueError("参数必须只含 city")
    city = args["city"]
    if not isinstance(city, str) or city.strip() != "吉隆坡":
        raise ValueError("本地演示仅包含吉隆坡")
    return {"call_id": call_id, "data": {
        "city": "吉隆坡", "condition": "多云", "temperature_c": 31,
        "source": "本地合成示例",
    }}

call = {"id": "demo-1", "tool_name": "get_weather", "arguments": {"city": "吉隆坡"}}
print(json.dumps(dispatch(call, {"weather:read"}), ensure_ascii=False))

输出包含 demo-1、吉隆坡和标明来源的合成天气。即使模型接口提供 JSON Schema,服务端仍要验证字段、类型、长度、业务取值和当前主体的权限。把实际工具响应与对应的调用 ID 关联,避免并行请求串结果。

生产环境的安全边界

工具应采用最小权限原则。按操作、资源、租户和当前主体授权。付款或删除等操作按产品策略核对已授权的对象和参数,必要时把该动作单独呈给用户确认。授权在工具服务层再次检查。

编排层还需要设置超时、重试上限和幂等键。网络失败后盲目重试付款接口,可能造成重复扣款;有副作用的调用超时后,先使用操作记录查询状态。允许重试时复用同一个业务幂等键,服务端持久保存执行结果。模型调用 ID 用于关联响应,只有稳定复用且由服务端去重的业务键才能控制副作用。

工具返回内容也要视为不可信输入。网页、文件或数据库字段可能包含诱导模型忽略规则的文本,应用应隔离工具数据与系统指令,并限制模型能够再次发起的调用范围。

何时不该调用工具

模型能够直接完成的解释、改写和总结,不必调用外部工具。只有任务依赖实时数据、私有数据、精确计算或外部操作时,工具调用才有价值。

参数缺失时补充信息,权限不足时返回可解释的拒绝。下一课在应用层约束多轮工具循环及失败处理。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

函数调用与工具使用

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通