OpenAI升级GPT-6提示词缓存：最高立减90%成本

在执行代码重构、研报编写等复杂任务时，GPT-6 支持的长程 AI 智能体往往需要持续数小时的高频调用。这些多轮 API 请求通常共享相同的系统指令、工具定义和历史上下文。针对这一场景，OpenAI 全面升级了提示词缓存（Prompt Caching）机制，重用跨请求计算，在降低响应延迟的同时，最高可为开发者减免 90% 的缓存输入 Token 费用。

在 GPT-6 系列模型中，增强型缓存系统不仅默认提供更高的命中率，还将合格前缀的缓存复用窗口延长至 30 分钟。同时，OpenAI 还发布了一套全新工具，帮助开发者全方位监控缓存表现、排查未命中原因并自主配置缓存粒度。

监控缓存与排查未命中

新上线的提示词缓存仪表盘直观展示了应用输入中由缓存支撑的比例。开发者可追踪随时间变化的命中率，并通过输入构成图表对比已缓存与未缓存 Token，从而快速定位命中率下滑节点，评估架构调整对缓存效率的影响。

当遇到非预期的缓存穿透时，可通过提示词缓存诊断工具排查根因。该工具将当前请求与近期的响应进行对比，精准找出导致复用失效的模型配置、工具描述或提示词变动，并返回受影响的 Token 规模估算：

{
  "prompt_cache_diagnostics": {
    "type": "cache_miss",
    "reason": "tools_changed",
    "comparison_reusable_tokens": 5629,
    "cache_missed_tokens": 5629
  }
}

针对应用优化缓存策略

自主指定缓存断点：开发者可通过显式断点设置需要复用的提示词前缀。最新的提示词缓存指南详细说明了断点配置方式、前缀有效期以及输入变更对复用的具体影响。
动态调整推理强度且不破损缓存：在 GPT-6 模型上，开发者可以在会话推进中调整推理强度。只需追加 configuration_update 即可针对疑难步骤拉高算力、对常规交互降低算力，无需修改请求层级的推理配置，完整保留此前沉淀的缓存上下文。
保持工具与指令配置稳定：为保证上下文可复用，工具定义、Schema 和声明顺序应尽可能保持静态。当智能体阶段性无需全部工具时，建议使用 allowed_tools 限制调用范围，或将 tool_choice 置为 none，避免直接增删工具定义；若要更新指令，优先在上下文尾部追加开发者消息覆盖旧规则，具体可参考工具变更管理指南。
利用缓存预热压低首字延迟：通过缓存预热，应用可以在用户发起首轮提问前，预先加载公共指令、工具描述或参考资料，将计算处理移出用户的实际等待窗口。