长任务变慢，常见原因包括重复传递上下文、让模型逐步搬运大量工具结果、推理等级与任务不匹配。OpenAI的GPT-5.6模型指导页提出程序化工具调用、显式提示缓存、多智能体测试和reasoning effort设置；GPT-5.6发布页补充了Responses API、并行Agent和缓存价格信息。资料核验日期为2026年8月6日。
先给结论：先减少中间往返，再调模型和推理等级
适合优化的顺序是：把稳定指令和变量分开，过滤工具结果，合并可预测的步骤，再用代表任务比较none、low、medium或更高推理等级。只有在最终答案质量、证据完整度和失败恢复都保持达标时，较少调用才算效率提升。
| 瓶颈 | 优先手段 | 应观察的指标 |
|---|---|---|
| 重复上下文 | 稳定前缀、缓存断点、prompt_cache_key | 缓存命中、写入成本、输入token |
| 工具结果太大 | 程序化工具调用先过滤、连接和聚合 | 中间输出大小、工具往返次数 |
| 推理时间过长 | 按任务调reasoning effort，低风险任务先测low | 质量、延迟、输出和推理token |
| 任务可并行 | 多智能体beta处理相互独立的子任务 | 墙钟时间、重复工作、汇总准确度 |
四步搭建高效长任务
第一步：把固定内容放到可缓存前缀
把系统规则、工具说明、输出格式和长期不变的参考资料放在前面，把用户变量、日期和临时数据放在后面。GPT-5.6支持显式缓存，缓存写入按未缓存输入价格的1.25倍计费，缓存读取享有折扣；因此要观察真实命中情况，而不是默认缓存一定省钱。
第二步：让程序处理可预测的中间结果
OpenAI把Programmatic Tool Calling定位为适合过滤、连接、去重、聚合和验证的工具链。模型不需要在每个固定步骤之间重新阅读全部原始结果时，可以让程序直接产出小型结构化摘要，再交回模型做语义判断。
第三步：把并行任务分给合适的Agent
多智能体beta适合能清晰拆开的独立工作流，例如分别查资料、检查代码和核对格式。主Agent负责统一约束与合并，不要把需要连续上下文的单一任务强行拆散。
第四步：用可复现基准做取舍
同一批任务分别跑不同模型和推理设置，记录成功率、证据完整度、延迟、总token、工具次数和费用。OpenAI官方也建议迁移时保留当前设置，并额外测试低一级设置；这比凭感觉调参更可靠。
验收清单：效率提升有没有损害质量？
- 答案完整：必填字段、引用和格式没有因过滤结果而丢失。
- 证据可追溯：每个结论能回到工具输出、文档或数据库记录。
- 失败可恢复：工具超时、重复调用、过期结果和部分成功都有处理路径。
- 成本可解释：输入、缓存、输出、工具和重试费用分别可查。
- 人工边界清楚：付款、权限、外部发布等动作仍需要明确批准。
适用条件
- 任务有稳定输入、明确输出结构和可回放样本。
- 工具返回字段稳定，程序可以安全过滤和聚合。
- 团队能记录请求配置、模型版本、缓存和评测结果。
限制与风险
- 程序化工具调用不适合每一步都需要模型重新判断的开放任务。
- 多智能体会带来汇总、重复和权限管理成本，需先做小规模对照。
- 提示缓存涉及存储和数据治理，敏感内容应按组织政策配置。
- 降低推理等级可能缩短延迟，却也可能减少复杂任务的验证深度。
FAQ
是不是调用越少越快？
调用减少通常有利于降低往返，但如果过滤过度、证据缺失或失败重试增加，整体效率可能下降。应同时看最终质量、延迟和总成本。
什么时候应该用程序化工具调用？
当中间处理是确定的过滤、排序、去重或聚合时更合适；如果每个工具结果都会改变下一步问题，保留直接调用更稳妥。
如何选择reasoning effort？
把none或low作为延迟基线，用medium处理常规分析，再用更高等级验证复杂任务。每次调整都要用同一组样本比较质量与资源消耗。
