OpenAI Decisions API 随 GPT-6 Luna 转正:单请求 400 问;同时上线 12 小时 prompt 缓存(写入 2.5 倍价)
OpenAI 于 2026-10-22 将 Decisions API 随 GPT-6 Luna 转正为 GA,单请求问题数上限从 200 提到 400;10-20 另上线 12 小时 prompt 缓存。
2026-10-24 · OpenAI 官方 Release Notes(2026-10-20「12-hour prompt caching in the API」、2026-10-22「Decisions API with GPT-6 Luna is now generally available」,均标注 GA,逐条读取)
发布 2026-10-24核实 2026-10-24要点速览
- Decisions API 转正(2026-10-22,GA):随 GPT-6 Luna 一起可用。单请求问题数上限从公开测试版的 200 提到 400——直接翻倍。
- 同时新增三项输入能力:跨请求缓存共享输入(吃 prompt 缓存折扣)、问题指令里可放图片、通过
input_json直接传结构化数据。 - 12 小时 prompt 缓存已 GA(2026-10-20):官方写明缓存写入成本为输入 token 价格的 2.5 倍。
- 同一天还有服务分层管控(2026-10-21,GA):可在 Platform 设置里逐项目限制可用的服务层级,组织级设置可统一收紧。
- 对编排链路的意义:本站 09-30 记录 Decisions API 时它还是限量预览,Agents API 卡里的旧表述已过期,本文同步更正。
Decisions API 转正:400 个问题意味着什么
Decisions API 的定位是用 GPT-6 Luna 对输入做分类、路由,或从预设答案里选动作——适合「先判定意图,再决定走哪条链路」的编排,而不是生成内容。
官方本次 GA 的四项变化:
| 项 | 变化 | 实操含义 |
|---|---|---|
| 单请求问题数 | 公开测试版 200 → GA 400 | 一次调用能塞进整个选项集,不必拆批 |
| 跨请求缓存共享输入 | 支持,享 prompt 缓存折扣 | 同一份长说明文档被反复打分时,重复部分走缓存价 |
| 图片 | 可包含在问题指令中 | 判定的对象从纯文本扩到截图 / 界面 / 图表 |
| 结构化输入 | input_json 直传 | 上游 JSON 不必先序列化成文本再让模型解析 |
这张表里真正省钱的是第二行。 路由 / 分类类调用的典型形态是「一份很长的说明(规则、目录、schema)+ 很多个待判定对象」——长说明几乎不变,待判定对象每次都变。有了跨请求缓存共享,前者可以稳定命中缓存;配合下面 12 小时缓存,这条链路的成本结构从「每次都全量重读」变成「一天读一次」。
12 小时 prompt 缓存:写入 2.5 倍价,买的是 TTL
官方原文要点:可启用 12 小时 prompt 缓存,让共享的指令、工具和上下文缓存更久,即使请求之间相隔数小时也能继续享受缓存输入价。代价写得很直白——
12 小时缓存写入的成本为输入 token 价格的 2.5 倍(2.5x the input token price)。
把三档放在一起看(本站 prompt 缓存百科 口径):
| 档位 | 写入倍率 | 适用 |
|---|---|---|
| 5 分钟缓存写入 | 1.25x 标准输入价 | 会话内连续追问 |
| 1 小时缓存写入 | 2x 标准输入价 | 一轮长任务 |
| 12 小时缓存写入 | 2.5x 标准输入价 | 跨半天 / 跨班的批处理与路由 |
倍数不是折扣率,先算回本点。写入多付的 1.5x(2.5 − 1)要靠后续读取时缓存输入价与标准输入价的差额赚回来。只有当同一份前缀在 TTL 内被读足够多次时才划算——12 小时档适合的正是「每天定时跑批、每次都加载同一份大指令」这类负载;低频、零散、每次上下文都不同的请求,用了反而更贵。
服务分层管控(2026-10-21,GA)
另一条容易被漏掉但对企业有用的更新:可在 Platform 设置中逐项目选择允许使用的服务层级,组织设置可统一限制所有项目可用的层级。
这条和上文的缓存是配套的——「谁能用哪一档服务层级」从此是一个可下发、可收紧的策略项,而不是靠人自觉。成本类管控从「看账单」前移到「在入口拦住」。
AI 之家 观点
① 400 问这个数字,改变的是编排的粒度而不是性能。 200 到 400 看着只是翻倍,但路由类调用的工程复杂度往往卡在「要不要分批」:分了批就要处理聚合、部分失败与顺序。上限提到 400 之后,中等规模的选项集可以一次打完,链路少一层。真正的价值在这里。
② 「图片进问题指令」比听起来更值得留意。 分类 / 路由模型此前基本只能读文本,涉及截图就得先 OCR 或转成描述——这一转就丢信息。现在图可以直接进判定环节,「这张截图属于哪类问题」这类任务不必再拆成两段。
③ 12 小时档最容易被用错的地方:把 TTL 当成「越长越好」。 写缓存是先付钱(2.5x),读缓存才省回来。判定标准是「这份前缀在 12 小时内会被读几次」,不是「我希不希望它别过期」。 建议上线前用 5 分钟档的命中率做基线,命中率不够高就别上 12 小时档。
④ 本站纠错记录:10-23 之前的 Agents API 卡 与 DevDay 资讯把 Decisions API 写为「限量预览」,该状态已随本次 GA 失效,已同步更新为 GA 并补足 400 问上限;这类「预览 / beta」标注是本站最常过期的字段之一,每次厂商 Release Notes 更新都应回扫一遍。
来源
- OpenAI 官方 Release Notes — 一手出处。
Decisions API with GPT-6 Luna is now generally available(2026-10-22,GA)、12-hour prompt caching in the API(2026-10-20,GA,含 2.5x 写入价)、Service tier controls for API projects(2026-10-21,GA)。 - 关联阅读:GPT-6 Luna 模型卡、OpenAI Agents API 工具卡、prompt 缓存百科。
本条为编辑部一手核对:直接读取 OpenAI 官方 Release Notes 页面对应条目原文。12 小时缓存的 2.5x 写入倍率来自官方原文;各档位的具体单价未在 Release Notes 中列出,本文只写官方明确给出的倍率,未转录任何第三方价格表。