导读：OpenAI在2026年7月29日披露GPT-5.6效率工程：优化覆盖负载均衡、内核、推测解码、KV缓存和Agent编排层。文章提到内核改进降低端到端服务成本，推测解码提高生成效率，并通过延迟发现工具、限制工具输出和保持确定性前缀减少Agent重复工作。企业可借鉴这些系统原则。
先找Agent循环中的乘数
一次任务可能包含几十轮模型和工具请求，每轮多一秒或多几千Token会被重复放大。记录每步上下文、工具耗时、网络、模型推理与重试，找出最频繁且最昂贵环节。
不要只优化单次模型响应。若数据库查询返回整表、每轮重复工具定义或历史不断插入旧位置，模型再快也会被编排浪费抵消。
延迟加载工具与资料
只向模型展示当前可能需要的工具，其他MCP、技能和插件通过发现机制按需加载。工具描述保持短而稳定。读取代码和文档先搜索，再请求相关片段。
工具结果默认设置Token和行数上限，超出时返回摘要、总量和可继续读取的游标。错误日志保留关键堆栈与上下文，不把数万行输出塞回对话。
保持可缓存的精确前缀
系统规则、稳定历史和工具顺序保持确定性，新消息与工具结果追加在末尾。时间、随机ID和运行权限不要插入前缀；运行时策略由执行层处理。任何微小文本变化都可能破坏精确缓存。
监控命中与未命中Token，并按任务类型观察。缓存提升后仍检查答案质量，不能为了稳定前缀保留过期资料。版本变化使用新的前缀标识。
从工作负载而不是参数调优
短问答、长文档、代码Agent和批处理需要不同并发、批量与模型路由。用真实流量测首Token、吞吐、成功率和成本，分场景配置。
优化采用小流量实验，验证系统总体而非孤立指标。降低费用但增加重试或错误不算成功。每次调整保留回滚与前后数据。
执行清单
- 记录Agent每轮上下文、工具、重试和耗时。
- 按需发现工具并限制返回体积。
- 稳定前缀、确定工具顺序并追加新历史。
- 按真实场景分别配置模型与并发。
- 同时验收成功率、延迟、成本和质量。
结语
GPT-5.6效率经验说明Agent成本来自整个系统。减少重复上下文、按需加载工具、利用缓存并针对工作负载调优，通常比单纯换更便宜模型更持久。
