大模型应用开发 / 系统课时

设置终止条件

设置终止条件

智能工作流一旦允许模型循环调用工具,就必须同时限制步数、总耗时和资源预算。本节用一个可运行的 Python 示例把三类终止条件放进同一控制循环,并区分“正常完成”和“被安全阈值强制停止”。

学习目标

  • 能为循环式工作流设置最大步骤、截止时间和资源预算
  • 能统一返回终止原因,便于日志、告警与上层重试
  • 能判断不同阈值应当放在循环的哪个位置检查

先定义可观测的终止原因

终止条件不应只写成一个模糊的 break。工作流至少要区分任务自然完成、步骤超限、超时和预算耗尽,因为它们对应完全不同的后续动作:自然完成可以提交结果,预算耗尽可能需要降级,超时则可能意味着外部工具卡住。

可把终止原因统一成少量稳定状态,例如 completed、max_steps、timeout 和 budget_exhausted。上层只依赖这些状态,不依赖模型生成的自由文本。

循环工作流的多重终止门禁

把三类限制放进同一控制循环

下面的程序模拟一个会持续执行步骤的智能工作流。每轮消耗固定资源,真实项目中可把 used_units 替换为 token、API 调用次数、费用或其他可计量资源。

python
import time

def run_workflow(max_steps: int, max_seconds: float, max_units: int) -> dict:
    started_at = time.monotonic()
    used_units = 0

    for step in range(1, max_steps + 1):
        # 在执行新一轮前检查时间和预算,避免已经超限后再发起昂贵调用。
        if time.monotonic() - started_at >= max_seconds:
            return {"status": "stopped", "reason": "timeout", "step": step - 1}

        next_cost = 4
        if used_units + next_cost > max_units:
            return {
                "status": "stopped",
                "reason": "budget_exhausted",
                "step": step - 1,
            }

        used_units += next_cost
        print(f"step={step}, used_units={used_units}")

        # 示例任务故意不自然完成,让最大步骤成为最后一道兜底。
        time.sleep(0.01)

    return {"status": "stopped", "reason": "max_steps", "step": max_steps}

if __name__ == "__main__":
    result = run_workflow(max_steps=3, max_seconds=5, max_units=20)
    print(result)

预期输出

text
step=1, used_units=4
step=2, used_units=8
step=3, used_units=12
{'status': 'stopped', 'reason': 'max_steps', 'step': 3}

这里把超时和预算检查放在昂贵操作之前,而把最大步骤直接编码到循环边界中。这样即使模型始终给出“继续执行”的建议,程序也不会无限运行。

选择阈值时看最坏损失

max_steps 约束的是推理链长度,最适合防止模型在规划、反思或工具重试中无限循环。它通常是最确定、最容易测试的一层保护,但不能替代超时,因为单个步骤本身也可能卡住很久。

max_seconds 约束整条工作流的墙钟时间。若单次工具调用可能阻塞,还要给工具请求设置更短的单调用超时;否则总超时只能在调用返回后才有机会被检查。

max_units 约束资源消耗。预算单位应尽量贴近真正的成本来源,例如累计 token、付费 API 次数或金额。不要只限制循环次数后就默认成本可控,因为不同步骤的消耗可能相差几个数量级。

让终止结果可恢复

安全停止并不等于把当前进度丢掉。每轮执行后应保存当前步骤、已使用预算、最近一次工具结果和必要的业务状态;触发阈值时返回结构化终止原因,并由上层决定是人工接管、缩小任务、换低成本模型还是稍后重试。

如果任务具有不可逆副作用,例如发送邮件、扣款或修改生产数据,还要把“是否已经执行副作用”写入检查点。这样即使工作流因超时被重新启动,也能从已确认状态继续,而不是重复执行同一操作。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

设置终止条件

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通