AI Agent / 系统课时

优化速度与上下文消耗

优化速度与上下文消耗

Codex 变慢并不一定是模型能力不足,常见原因是任务范围过大、上下文夹杂无关文件,或为简单任务使用了过高的推理强度。本篇建立一套可操作的优化顺序:先缩小输入,再选择模型与推理强度,最后才考虑单纯加速。

学习目标

  • 区分等待时间、上下文消耗与额度消耗,避免用错优化手段
  • 用工作目录、文件范围和验收条件减少无关上下文
  • 根据任务难度选择模型、推理强度与 Fast mode

先区分三种消耗

优化前先判断你真正想降低什么。等待时间关注多久得到结果;上下文消耗关注模型需要读取和维持多少任务信息;额度或成本关注所选模型、推理量和加速方式带来的资源使用。三者相关,但不是同一件事。

手段 等待时间 上下文消耗 额度或成本
缩小目录和文件范围 通常降低 明显降低 通常降低
降低推理强度 通常降低 不直接减少输入 通常降低
选择更高效模型 通常降低 取决于任务 通常降低
Fast mode 降低 基本不变 消耗更快

因此,最优先的动作不是“开更快模式”,而是让 Codex 少看无关内容、少做无关工作。只有任务本身已经足够聚焦时,加速设置才真正有效。

先缩小任务边界

启动位置会影响 Codex 看到的项目范围。能在子项目完成的任务,就用 -C 或 --cd 把工作目录直接定位到子项目;只有确实需要跨目录修改时,再用 --add-dir 扩大可写范围。

提示词也要给出明确边界。与其说“检查整个仓库的登录问题”,不如指定目标文件、允许修改的目录、要运行的测试和最多输出几条建议。日志同样只提供能复现问题的片段,不要把整份构建日志、生成目录或与问题无关的历史记录一并塞入上下文。

下面的主示例把工作目录、模型、推理强度和文件范围一次限定清楚。把 <PATH> 替换为实际仓库根目录,并确保示例文件存在。

bash
codex exec \
  -C "<PATH>/packages/api" \
  -m gpt-5.6-terra \
  -c 'model_reasoning_effort="low"' \
  "只检查 src/auth/login.ts 和 tests/auth/login.test.ts;不要扫描其他目录;给出最多 5 条可执行修改建议。"

预期输出

text
<VALUE>

<VALUE> 是实际审查结果,内容会随仓库而变化;验收重点不是逐字一致,而是结果只针对指定的两个文件,且建议不超过 5 条。若 Codex 因缺少依赖信息无法判断,再逐步扩大范围,而不是一开始就开放整个仓库。

再选择模型和推理强度

模型选择应与任务难度匹配。复杂跨文件重构、疑难故障或高风险代码审查优先使用能力更强的模型;边界清楚的局部修改、格式调整和机械性迁移可以选择更高效的模型。当前 CLI 支持用 -m 或 --model 一次性覆盖配置中的默认模型,例如主示例使用 gpt-5.6-terra 取得能力、速度与成本之间的平衡。

model_reasoning_effort 是另一条独立旋钮。简单、可验证的任务可从较低强度开始;如果出现遗漏、测试失败或需要跨模块推理,再逐级提高。不要为了“更聪明”默认把所有任务都设到最高强度,因为增加推理并不会自动修复模糊需求或无关上下文。

Fast mode 只解决延迟

Codex 的 Fast mode 用更高的额度消耗换取更快的受支持模型响应。它适合已经明确边界、但仍希望降低等待时间的交互式任务;它不会替你删除无关上下文,也不等于选择了更便宜的模型。

在 CLI 中可以用 /fast on、/fast off 和 /fast status 切换或检查当前状态。支持范围和计费策略可能随版本变化,因此把它当作“延迟旋钮”,不要把它当成上下文优化手段。使用 API Key 时则按 API 的模型与处理层计费,不应套用 ChatGPT 登录下的额度倍率理解。

用同一任务做基线验收

优化不要凭体感一次改很多项。选一个真实、可重复的任务作为基线,记录工作目录、输入文件、模型、推理强度、完成时间和最终测试结果;每轮只改变一个主要因素,再比较结果。

如果缩小范围后仍能通过同一组测试,说明上下文确实可以继续收紧;如果降低推理强度后开始遗漏跨文件约束,就恢复原值。真正有效的优化标准不是“回答更短”,而是在满足同一验收条件的前提下,用更少的无关上下文和更合适的计算强度完成任务。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

优化速度与上下文消耗

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通