150 毫秒极速响应：OpenAI 推出 Decisions API，让 AI 从“聊天”走向“实时决策”

 9 月 30 日消息，在今天召开的 2026 开发者日活动中，OpenAI 宣布推出 Decisions API，这是一个面向实时、低延迟分类与路由场景的全新 API，可以大约在 150 毫秒内返回结果，比通过常规 API 使用 Luna 快大约 10 倍。

定位方面，Decisions API 为“快速单次决策”设计，把模型（当前基于 OpenAI 的小型模型 Luna）的“智能”聚焦到一组用户预定义的问题 + 有限答案集合上，用极低的延迟返回结构化决策结果。

在目前同类模型中，主要竞争模型来自 TypeSafe 的 Jev，不过 Decisions API 专注于将模型智能转化为快速决策。

开发者提供上下文（文本或图片），并预先定义好“问题 + 可选答案”，API 返回选中的答案及置信度等结构化信息，用于后续业务逻辑。

在典型应用场景方面，Decisions API 比较适合以下场景：

• 客服 / 工单系统：根据用户描述自动判定问题类型、优先级、应分配的团队。

• 内容审核与策略选择：在几个预定义策略（例如：允许 / 限流 / 人工复审）中快速选择。

• Agent 编排中的“决策节点”：在多步工作流中，用 Decisions API 来决定下一步调用哪个工具 / 哪个子 agent，而不是让大模型自由发挥。

• 实时业务规则辅助：在已有规则引擎之上，用 Decisions API 处理模糊地带，在有限选项内给出建议决策，再由规则引擎做最终裁定。