OpenAI正式上线Decisions API，提速10倍且免输出Token费

AI应用和AI智能体在工作流中往往需要处理大量微小决策：文本分类、请求路由、决定下一步行动等。这些操作看似简单，但在规模化调用时，延迟和成本会迅速累积。

OpenAI今日宣布，Decisions API正式面向所有开发者开放（GA）。该API基于 GPT‑6 Luna 构建，专门针对有预设范围的决策问题进行优化，可根据文本、图像及结构化输入做出近乎实时的判断。与通过常规Responses API调用GPT-6 Luna相比，其决策推理速度最高可提升10倍。

自公测以来，Decisions API新增了原生GPT-Live集成、针对重复上下文的提示词缓存（Prompt Caching），并支持美欧地区的数据驻留。此外，开发者如今可直接传入原生JSON格式数据、在指令中嵌入图像，单次请求的问题上限也翻倍至400个。同时，亚洲多个区域也增加了算力容量以进一步降低延迟。

三类决策模式

使用Decisions API十分直接：开发者只需定义一个问题及允许的答案范围，再提供相关的文本、图像或JSON上下文。API会返回以下三种类型之一的结果，供下游业务逻辑流转：

• predicate（断言判断）：评估某个条件成立的概率（0至1之间），例如检测商品是否存在明显损坏。
• choice（多选路由）：从预定义的选项中挑选一项，例如判断智能体应当继续执行、重试还是请求用户澄清，结果包含概率与置信度。
• score（分级评分）：对照设定标准按等级打分，例如评估受损严重程度，最终输出加权平均分。

联动GPT-Live打造实时语音交互

借助 GPT‑Live，开发者可以构建具备自然打断能力的拟真语音交互。现在，Decisions API已与GPT-Live实现原生集成，支持在语音对话过程中做出超低延迟的判断。

例如，智能客服在通话中可实时判断是否需要发起澄清或升级工单；数字人头像也能根据用户即时发言的情绪，动态切换眨眼、微笑等面部表情，大幅提升互动体验。

定价与可用性

Decisions API现已在OpenAI控制台正式提供。计费模式非常适合轻量决策场景：

• 输入Token：0.10美元 / 百万Token
• 缓存命中输入：0.01美元 / 百万Token
• 输出Token：完全免费

开发者可在 Decisions Playground 中用自选数据快速测试，或查阅 开发者指南 接入生产环境。