跳到主内容
概念reasoning effort推理档位思考档位thinking budget成本优化Opus 5.5Gemini 4

推理档位(Reasoning Effort)

推理档位指的是同一个模型内部可调的思考深度档位(low / medium / high / xhigh 之类)。它不换模型、不换权重,只改「回答前先想多久」,因此是成本与质量之间那个最细的滑杆——也是 2026 年最容易算错账的一项。

发布 2026-11-15更新 2026-11-15核实 2026-11-15

什么是推理档位

推理档位(reasoning effort)指的是同一个模型内部可调的「思考深度」设置,它不改变模型的知识与权重,只改变回答之前愿意花多少推理 token。

用户看到的是下拉菜单里的几个词:low / medium / high / xhigh,或者 minimal / standard / extended。API 里它通常是一个字段,形如 reasoning: { effort: "medium" } 或 thinking: { type: "enabled", budget_tokens: N }。

它和「换个更强的模型」是两件不同的事:

维度换模型调档位
变化的东西权重、训练目标、知识截止本次推理投入的 token 量
输出风格会变(格式、语气、工具习惯)基本不变
成本影响单价直接变(可能差 5–15 倍)思考 token 数变,单价不变
可预测性需重新评测相对可预测,适合 A/B
典型用途能力不够成本与质量的微调

一句话:换模型是换发动机,调档位是踩油门深度。

为什么 2026 年突然重要

三件事把它从「进阶参数」推成「必调项」。

第一,推理 token 变成了账单主体。 早两年的推理模型,思考部分是固定预算;现在主流模型把思考长度做成连续可调,同一任务在不同档位下的总 token 消耗能差数倍。当输入价被 prompt caching 压到几乎可忽略,账单的变量就剩下「想了多久」。

第二,默认档位被厂商重新校准了。 据 Anthropic 面向 Claude Opus 5.5 的指引,该模型在 Medium 档的表现已能匹配前代 Opus 5 的 High 档,并建议用户从 Medium 起步、只在不够时上调。这意味着同一档位名在不同代际代表的能力不同——照抄旧配置等于在无声地超额付费或降级。

第三,档位成了厂商区隔产品线的工具。 Gemini 4 Hydrogen 提供 low / medium / high(默认)/ xhigh 四档,官方给出的智能指数是默认 high 档 51、xhigh 档 54;Gemini 4 Carbon 在 MathArena 登顶时用的也是 high 设定。同一个模型名、不同档位,出来的分数与账单都不一样,只写模型名不写档位的评测,可比性是打折的。

工作原理

1. 档位约束的是「推理预算」而非「答案长度」

模型在生成最终答案之前,会先产出一段(通常对用户不可见或折叠的)推理内容。档位限制的是这段内容的规模上限与终止策略。答案本身的长短由提示词与任务决定,不受档位直接约束——所以调高档位不会让回答变长,只会让它想得更多。

2. 两代实现路线:离散档位 vs 连续预算

  • 离散档位(low/medium/high/xhigh):厂商在训练阶段就用不同预算做过对齐,每一档有独立的行为特征。优点是稳定、可预期;缺点是颗粒粗,无法表达「比 medium 多一点点」。
  • 连续预算(budget_tokens: 8192):给一个 token 上限,模型尽量在预算内完成推理。优点是细粒度;缺点是预算给太少会导致推理被腰斩(表现为答案突兀、放弃检查),给太多则模型可能真的用满。

两种路线正在融合:多数厂商同时暴露「档位」与「预算」两个参数,档位是语义标签,预算是硬上限。

3. 自适应终止

新一代模型会按任务难度自己决定何时停止思考,档位只是上限与倾向。这带来一个反直觉现象:简单任务调高档位几乎不增加成本(模型判断不需要想那么久就停了),而难任务调高档位会成倍烧钱。所以「把档位统一拉高以防万一」在混合负载下并不像想象中那么贵,但在单一难任务负载下会爆炸。

4. 与提示词里的「think hard」不兼容

老一代推理模型时代,用户习惯在提示词里加「仔细想想」「一步步思考」来诱导更长的推理。据 Anthropic 面向 Opus 5.5 的指引,这类短语已经过时:模型始终自行推理并按任务与档位缩放深度,删除这些短语后响应更快、质量无可测下降。档位接管了这件工作,提示词里再写一遍属于重复控制。

主流实现对照

模型 / 平台档位命名默认档已公开的量化信号
Claude Opus 5.5多档(含 Medium / High)Medium官方称 Medium 匹配前代 Opus 5 的 High
Gemini 4 Hydrogenlow / medium / high / xhighhigh智能指数 high 51、xhigh 54
Gemini 4 Carbon同上(评测用 high)highMathArena 85.4%(high 档)
DeepSeek-V4.1-Flash思考开 / 关(默认开)开关闭思考时才能用非推理型智能体搜索
LongCat-2.5思考开 / 关可切换视场景—
OpenRouter 等网关统一 reasoning.effort 映射到各家各家默认跨模型对比时可按档位归一

两条可读的规律:

  1. 默认档普遍不是最高档。厂商把默认设在中位,是让多数人拿到「够用且不贵」的体验,这也意味着默认档就是最有性价比的起点。
  2. 档位增益是递减的。Hydrogen 从 high 到 xhigh 只涨 3 个智能指数点;Opus 5.5 从 Medium 到 High 的增益厂商自己都没给具体数字。一旦任务落在能力边界内,抬档位只是买心理安慰。

常见误区

  • 误区一:档位越高越准。 厂商自己的口径是「更高档花更多钱,且不总是更好」。对已经能做对的题,多想的收益接近零,副作用是延迟上升。
  • 误区二:只写模型名不写档位。 同一模型在 low 与 xhigh 下的榜单分数不同,成本可能差数倍。看到「某模型得分 X」时,必须先问它用的哪档——这也是本站记录评测结果时同时标 high / max 的原因。
  • 误区三:用档位替代上下文治理。 上下文塞爆、工具定义冗余、重试策略混乱,这些问题不会因为拉高档位而消失。先把 上下文工程 和 上下文压缩 做对,再谈档位。
  • 误区四:以为档位能省单价。 档位不改变每 token 价格,只改变用量。想要单价更低只有两条路:换模型、换缓存策略(见 BYOK 与 prompt caching)。
  • 误区五:跨代沿用旧档位。 Opus 5 时代的 High 与 Opus 5.5 的 Medium 已经等价,沿用旧配置等于多付一档钱买同样的效果。

怎么配:三步上手

第一步:用默认档跑一轮基线

# 以 Anthropic 兼容端点为例,medium 档(多数模型默认)
curl https://api.example.com/v1/messages \
  -H "x-api-key: $API_KEY" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-opus-5-5",
    "max_tokens": 4096,
    "reasoning": { "effort": "medium" },
    "messages": [{ "role": "user", "content": "把这段代码的竞态改掉:…" }]
  }'

记录三件事:通过率、平均耗时、总 token(含思考 token)。

第二步:只对失败样本升档

把升档当降级补偿用,而不是默认配置:

// 路由伪代码:先便宜跑,失败再升档
{
  "attempts": [
    { "model": "claude-opus-5-5", "reasoning": { "effort": "medium" } },
    { "model": "claude-opus-5-5", "reasoning": { "effort": "high" }, "onlyIf": "verify_failed" }
  ]
}

判据要绑定可自动验证的结果(编译通过、测试绿、schema 校验通过),否则升档只会放大不可信的输出。

第三步:按「每成功任务成本」复盘

每任务成本 = Σ(每次尝试的 token 费 + 工具费) ÷ 成功任务数

只看单次调用费会误判——高价档往往一次就过,低价档可能试三次。口径详见 每任务成本。

哪些工具支持

  • Claude Code / Codex:CLI 与模型选择器里直接切换档位,会话内可改;/model 一类的入口会把档位带过去。
  • Cursor / Antigravity 等 IDE Agent:通常在模型选择器里以「模型名 + 档位」组合呈现,部分支持按任务类型自动选档。
  • OpenRouter / LiteLLM 等网关:把各家的档位字段归一成统一参数,做跨模型对比时按档位对齐,避免「拿 A 的 high 比 B 的 low」。
  • 自建 harness:需要自己决定何时升档(见上文的 onlyIf 模式),并把思考 token 单独记账。

与相近概念的区别

概念调的是什么与推理档位的差别
推理档位本次思考深度同一模型内可调,不改能力边界
推理模型训练出的推理能力换权重;档位是这之上的旋钮
thinking budget思考 token 硬上限更细粒度,容易把推理腰斩
提示词「think hard」诱导式指令新一代模型已不需,属重复控制
温度 / top-p采样随机性影响多样性,不影响思考量

FAQ

Q:档位调低会影响工具调用正确率吗? 会,但影响不对称。低档位对「选哪个工具」影响小,对「多步规划与错误恢复」影响大。做 Agent 时建议把简单工具调用留在低档、把规划环节单独升档。

Q:同一次会话里能换档吗? 多数产品支持按消息或按轮次切换。注意上下文里的历史思考内容是累积的,中途升档不会重算之前轮次的推理。

Q:为什么我的账单和档位不成比例? 因为工具费与缓存策略同时在起作用。搜索、抓取按次计费,与档位无关;缓存命中率高时 token 费被压得很低,此时档位的影响会被稀释。

Q:评测里怎么标才对? 写成「模型名 + 档位 + 日期」,例如「Gemini 4 Carbon(high),MathArena 2026-11-13」。缺任一项,跨文章对比就会失真。

延伸阅读

来源

常见问题

推理档位和「换更贵的模型」有什么不同?

换模型换的是权重与训练目标,档位只改这一次推理投入多少思考 token。同一模型从 low 拉到 high,知识边界不变、格式习惯不变、工具调用风格不变,只有推理长度与深度变化——所以它更可预测,也更适合做成本微调。

档位调高一定更准吗?

不一定。厂商自己的说法就在降温:Anthropic 表示 Opus 5.5 在 Medium 档已能匹配前代 Opus 5 的 High 档,更高档位花更多钱但「并不总是更好」;谷歌 Gemini 4 Hydrogen 默认 high 档智能指数 51、拉到 xhigh 是 54,增益三个点但思考 token 也显著增加。档位存在边际收益递减,超过任务难度之后只是烧钱。

还需要在提示词里写「仔细想想 / think step by step」吗?

对新一代模型基本不需要,甚至有害。据 Anthropic 面向 Opus 5.5 的指引,模型会自行推理并按任务难度与所选档位缩放思考深度,删掉「think hard」「think carefully」这类短语后响应更快且质量没有可测下降。

默认该从哪个档位开始?

从厂商默认档开始(Opus 5.5 是 Medium、Gemini 4 Hydrogen 是 high),先用真实任务量一次「够不够」,不够再升。直接从最高档起步的代价是预算不可控,且掩盖了真正需要优化的地方(上下文、工具定义、重试策略)。

相关对比

Aider vs Claude Code:终端 AI 编程双雄怎么选

Aider vs Claude Code 2026 选型对比:开源 BYOK 多模型 vs Anthropic 订阅长任务 Agent,从编程能力、多模型支持、价格、Git 集成、国内可用性和适合人群判断,帮你选对终端 AI 编程工具。

Claude Code vs Cline:CLI AI Agent 怎么选?2026 对比

Claude Code vs Cline 2026 选型对比:Anthropic 官方闭源 CLI Agent vs Apache-2.0 开源 VS Code 插件。从模型绑定、工作流、MCP 支持、价格、隐私和适合人群 6 个维度帮你选对 CLI AI 编程工具。

Claude Code vs Codex CLI:终端 AI Agent 双雄对比

Claude Code vs Codex CLI 2026 选型对比:Anthropic 与 OpenAI 两大官方终端 Agent 的模型、长任务、MCP 生态、Windows 支持、订阅打包价格和国内可用性全方位对比,帮你判断该用哪个终端 AI Agent,以及能不能两个一起用。

Claude Code vs Crush:Anthropic 官方 vs 多模型 TUI(2026 实测选型)

Claude Code vs Crush 怎么选:Anthropic 官方 CLI(长任务最稳),对上 Charmbracelet 开源 TUI(多模型切换 + LSP)。按模型、长任务、价格对比。

Cursor vs Claude Code:什么时候用哪个?(2026 实测选型)

Cursor 和 Claude Code 到底怎么选?一句话结论 + 决策树 + 价格实测 + 国内可用性对比。GUI 派选 Cursor,终端长任务派选 Claude Code,最优解其实是共存。

Devin vs Claude Code:AI 编程 Agent 怎么选?异步自主 vs 终端同步对比

Devin vs Claude Code 2026 选型对比:Cognition 异步自主 Cloud Agent vs Anthropic 终端同步 CLI Agent,从形态、工作模式、长任务能力、并发、价格、中文支持和适合人群 8 个维度判断,帮你选对 AI 编程 Agent。