跳到主内容

OpenAI Decisions API 随 GPT-6 Luna 转正:单请求 400 问;同时上线 12 小时 prompt 缓存(写入 2.5 倍价)

OpenAI 于 2026-10-22 将 Decisions API 随 GPT-6 Luna 转正为 GA,单请求问题数上限从 200 提到 400;10-20 另上线 12 小时 prompt 缓存。

2026-10-24 · OpenAI 官方 Release Notes(2026-10-20「12-hour prompt caching in the API」、2026-10-22「Decisions API with GPT-6 Luna is now generally available」,均标注 GA,逐条读取)

发布 2026-10-24核实 2026-10-24

要点速览

  • Decisions API 转正(2026-10-22,GA):随 GPT-6 Luna 一起可用。单请求问题数上限从公开测试版的 200 提到 400——直接翻倍。
  • 同时新增三项输入能力:跨请求缓存共享输入(吃 prompt 缓存折扣)、问题指令里可放图片、通过 input_json 直接传结构化数据。
  • 12 小时 prompt 缓存已 GA(2026-10-20):官方写明缓存写入成本为输入 token 价格的 2.5 倍。
  • 同一天还有服务分层管控(2026-10-21,GA):可在 Platform 设置里逐项目限制可用的服务层级,组织级设置可统一收紧。
  • 对编排链路的意义:本站 09-30 记录 Decisions API 时它还是限量预览,Agents API 卡里的旧表述已过期,本文同步更正。

Decisions API 转正:400 个问题意味着什么

Decisions API 的定位是用 GPT-6 Luna 对输入做分类、路由,或从预设答案里选动作——适合「先判定意图,再决定走哪条链路」的编排,而不是生成内容。

官方本次 GA 的四项变化:

项变化实操含义
单请求问题数公开测试版 200 → GA 400一次调用能塞进整个选项集,不必拆批
跨请求缓存共享输入支持,享 prompt 缓存折扣同一份长说明文档被反复打分时,重复部分走缓存价
图片可包含在问题指令中判定的对象从纯文本扩到截图 / 界面 / 图表
结构化输入input_json 直传上游 JSON 不必先序列化成文本再让模型解析

这张表里真正省钱的是第二行。 路由 / 分类类调用的典型形态是「一份很长的说明(规则、目录、schema)+ 很多个待判定对象」——长说明几乎不变,待判定对象每次都变。有了跨请求缓存共享,前者可以稳定命中缓存;配合下面 12 小时缓存,这条链路的成本结构从「每次都全量重读」变成「一天读一次」。

12 小时 prompt 缓存:写入 2.5 倍价,买的是 TTL

官方原文要点:可启用 12 小时 prompt 缓存,让共享的指令、工具和上下文缓存更久,即使请求之间相隔数小时也能继续享受缓存输入价。代价写得很直白——

12 小时缓存写入的成本为输入 token 价格的 2.5 倍(2.5x the input token price)。

把三档放在一起看(本站 prompt 缓存百科 口径):

档位写入倍率适用
5 分钟缓存写入1.25x 标准输入价会话内连续追问
1 小时缓存写入2x 标准输入价一轮长任务
12 小时缓存写入2.5x 标准输入价跨半天 / 跨班的批处理与路由

倍数不是折扣率,先算回本点。写入多付的 1.5x(2.5 − 1)要靠后续读取时缓存输入价与标准输入价的差额赚回来。只有当同一份前缀在 TTL 内被读足够多次时才划算——12 小时档适合的正是「每天定时跑批、每次都加载同一份大指令」这类负载;低频、零散、每次上下文都不同的请求,用了反而更贵。

服务分层管控(2026-10-21,GA)

另一条容易被漏掉但对企业有用的更新:可在 Platform 设置中逐项目选择允许使用的服务层级,组织设置可统一限制所有项目可用的层级。

这条和上文的缓存是配套的——「谁能用哪一档服务层级」从此是一个可下发、可收紧的策略项,而不是靠人自觉。成本类管控从「看账单」前移到「在入口拦住」。

AI 之家 观点

① 400 问这个数字,改变的是编排的粒度而不是性能。 200 到 400 看着只是翻倍,但路由类调用的工程复杂度往往卡在「要不要分批」:分了批就要处理聚合、部分失败与顺序。上限提到 400 之后,中等规模的选项集可以一次打完,链路少一层。真正的价值在这里。

② 「图片进问题指令」比听起来更值得留意。 分类 / 路由模型此前基本只能读文本,涉及截图就得先 OCR 或转成描述——这一转就丢信息。现在图可以直接进判定环节,「这张截图属于哪类问题」这类任务不必再拆成两段。

③ 12 小时档最容易被用错的地方:把 TTL 当成「越长越好」。 写缓存是先付钱(2.5x),读缓存才省回来。判定标准是「这份前缀在 12 小时内会被读几次」,不是「我希不希望它别过期」。 建议上线前用 5 分钟档的命中率做基线,命中率不够高就别上 12 小时档。

④ 本站纠错记录:10-23 之前的 Agents API 卡 与 DevDay 资讯把 Decisions API 写为「限量预览」,该状态已随本次 GA 失效,已同步更新为 GA 并补足 400 问上限;这类「预览 / beta」标注是本站最常过期的字段之一,每次厂商 Release Notes 更新都应回扫一遍。

来源

本条为编辑部一手核对:直接读取 OpenAI 官方 Release Notes 页面对应条目原文。12 小时缓存的 2.5x 写入倍率来自官方原文;各档位的具体单价未在 Release Notes 中列出,本文只写官方明确给出的倍率,未转录任何第三方价格表。

相关对比