决策模型（Decision Model）

什么是决策模型

决策模型是一类只输出判断、不输出文本的模型。调用方式通常是：给一段上下文（文本、图片、音频、视频、PDF 均可）、一组问题、每个问题的选项与判据，模型返回每个选项下的概率或某个分数。

它解决的是 Agent 系统里最频繁、最枯燥、也最贵的一类调用：

• 这条用户请求该走哪条链路（路由）
• 这条检索结果与问题相关吗（相关性判定）
• 这段内容是否违规（安全前置）
• 这段代码与描述一致吗（一致性判定）
• 这批候选里哪个最合适（排序）

这些任务过去都被塞进生成式模型：写一段 prompt 让它「输出 A 或 B」，然后解析文本。问题是你要为一个标签付一整段生成的钱，还要处理「它没按格式回答」的解析失败。

为什么 2026 年这个词突然具体了

因为两家把它做成了有独立定价的 API：

谷歌把输出定价写成 0，等于公开了一个判断：不生成文本的调用不该按生成计费。在这之前，「判定」这件事在账本上是隐形的——它被计进生成成本里，所以没人专门优化它。一旦单独定价，「把判断从生成里剥出来」就变成了一个明确的工程动作。

工作原理

一次决策调用通常包含四部分：

1. 共享输入：被判断的上下文（文档、图片、检索结果、对话历史）。官方口径是每次请求只计一次费，不管你在这次请求里问多少问题。
2. 问题（question）：要做的判断，例如「这段内容属于哪一类」。
3. 判据（criteria）：每个选项对应一句自然语言描述。这是决策模型与传统分类器最大的差别——标签由判据定义，不需要训练数据。
4. 输出形态：是/否、单选、多标签、分数、或按判据给出的概率分布。

关键在于判据是一等输入。这意味着判断逻辑可以进代码库、可以做 diff、可以做回归测试——比在 prompt 里堆形容词可靠得多。

三种主流落地形态

• 路由（router）：按请求难度分发到不同模型或思考档位。谷歌自己披露 Gemini Notebook 用它做实时路由，延迟降最多 40%，把强模型留给复杂任务。
• 打分与排序（scoring）：给候选打相关性/质量分，替代 LLM-as-judge 的粗筛层。优点是便宜，缺点是无理由。
• 安全前置（guard）：判定输入是否含对抗意图，作为工具调用前的门。谷歌在搜索里用它给 MCP 工具做这一层。

常见的坑

• 把概率当概率。模型自报 0.8 不代表八成会中。没有经过可靠性验证的概率只是排序分数；要按阈值做自动化决策前，必须用自己的标注集画一次可靠性图。
• 判据漂移。业务规则一改，判据文本改一行就可能让整个概率分布偏移。判据要像代码一样版本化，并配一组回归样本。
• 拿它替代推理。它不做多步推理、不给理由链。需要「为什么」的场景仍然要回生成式模型。
• 忽略输入的 token 体量。「输出免费」不等于「便宜」——如果每次调用都塞 20 万 token 上下文，输入成本照样上去。共享输入只计一次费的规则救的是「一问多题」，不是「一题多问」。

怎么评估一个决策模型

按顺序做四件事，缺一件都不算验证过：

1. 构标注集：从你自己的业务里抽 200–500 条真实样本，人工标好正确答案。
2. 测一致率：先看它跟你人工标注的一致率，低于 85% 就别往下走。
3. 画可靠性图：把预测概率分桶，看每桶的实际命中率。曲线贴近对角线才算「校准过」。
4. 定阈值并压测：按你愿意接受的误判率定阈值，然后用对抗样本（刻意构造的边界案例）压一次，看会不会被绕过。

哪些工具和系统用到了它

• OpenAI Agents API：Decisions API 的原生宿主，编排链路里可直接挂判定节点。
• LiteLLM：统一网关，便于把两家的决策接口放在同一层做 fallback 与计费归因。
• LangFlow：可视化编排里可以插判定节点做条件分支。

与几个近义概念的区别

一句话记住

决策模型是把「判断」从「生成」里剥出来单独计价的产物——它的价值不在更聪明，在让每一次判断的成本低到可以不用省。

延伸阅读

• Gemini Decisions API：零输出 token 卖判断
• OpenAI Decisions API 转正（400 问 + 12 小时缓存）
• 每任务成本怎么算 · Agent Harness · Fail-Closed 与默认拒绝

来源

• { title: "Gemini Decisions API: Fast, calibrated multimodal decisions（Google 官方博客，2026-11-11）", url: "https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/" }
• { title: "OpenAI 官方 Release Notes（2026-10-22 Decisions API with GPT-6 Luna is now generally available）", url: "https://openai.com/products/release-notes/" }
• { title: "Startrise 模型追踪（Gemini Decision 1，2026-11-11 上架）", url: "https://www.startrise.io/models" }