推理档位(Reasoning Effort)
推理档位指的是同一个模型内部可调的思考深度档位(low / medium / high / xhigh 之类)。它不换模型、不换权重,只改「回答前先想多久」,因此是成本与质量之间那个最细的滑杆——也是 2026 年最容易算错账的一项。
发布 2026-11-15更新 2026-11-15核实 2026-11-15什么是推理档位
推理档位(reasoning effort)指的是同一个模型内部可调的「思考深度」设置,它不改变模型的知识与权重,只改变回答之前愿意花多少推理 token。
用户看到的是下拉菜单里的几个词:low / medium / high / xhigh,或者 minimal / standard / extended。API 里它通常是一个字段,形如 reasoning: { effort: "medium" } 或 thinking: { type: "enabled", budget_tokens: N }。
它和「换个更强的模型」是两件不同的事:
| 维度 | 换模型 | 调档位 |
|---|---|---|
| 变化的东西 | 权重、训练目标、知识截止 | 本次推理投入的 token 量 |
| 输出风格 | 会变(格式、语气、工具习惯) | 基本不变 |
| 成本影响 | 单价直接变(可能差 5–15 倍) | 思考 token 数变,单价不变 |
| 可预测性 | 需重新评测 | 相对可预测,适合 A/B |
| 典型用途 | 能力不够 | 成本与质量的微调 |
一句话:换模型是换发动机,调档位是踩油门深度。
为什么 2026 年突然重要
三件事把它从「进阶参数」推成「必调项」。
第一,推理 token 变成了账单主体。 早两年的推理模型,思考部分是固定预算;现在主流模型把思考长度做成连续可调,同一任务在不同档位下的总 token 消耗能差数倍。当输入价被 prompt caching 压到几乎可忽略,账单的变量就剩下「想了多久」。
第二,默认档位被厂商重新校准了。 据 Anthropic 面向 Claude Opus 5.5 的指引,该模型在 Medium 档的表现已能匹配前代 Opus 5 的 High 档,并建议用户从 Medium 起步、只在不够时上调。这意味着同一档位名在不同代际代表的能力不同——照抄旧配置等于在无声地超额付费或降级。
第三,档位成了厂商区隔产品线的工具。 Gemini 4 Hydrogen 提供 low / medium / high(默认)/ xhigh 四档,官方给出的智能指数是默认 high 档 51、xhigh 档 54;Gemini 4 Carbon 在 MathArena 登顶时用的也是 high 设定。同一个模型名、不同档位,出来的分数与账单都不一样,只写模型名不写档位的评测,可比性是打折的。
工作原理
1. 档位约束的是「推理预算」而非「答案长度」
模型在生成最终答案之前,会先产出一段(通常对用户不可见或折叠的)推理内容。档位限制的是这段内容的规模上限与终止策略。答案本身的长短由提示词与任务决定,不受档位直接约束——所以调高档位不会让回答变长,只会让它想得更多。
2. 两代实现路线:离散档位 vs 连续预算
- 离散档位(
low/medium/high/xhigh):厂商在训练阶段就用不同预算做过对齐,每一档有独立的行为特征。优点是稳定、可预期;缺点是颗粒粗,无法表达「比 medium 多一点点」。 - 连续预算(
budget_tokens: 8192):给一个 token 上限,模型尽量在预算内完成推理。优点是细粒度;缺点是预算给太少会导致推理被腰斩(表现为答案突兀、放弃检查),给太多则模型可能真的用满。
两种路线正在融合:多数厂商同时暴露「档位」与「预算」两个参数,档位是语义标签,预算是硬上限。
3. 自适应终止
新一代模型会按任务难度自己决定何时停止思考,档位只是上限与倾向。这带来一个反直觉现象:简单任务调高档位几乎不增加成本(模型判断不需要想那么久就停了),而难任务调高档位会成倍烧钱。所以「把档位统一拉高以防万一」在混合负载下并不像想象中那么贵,但在单一难任务负载下会爆炸。
4. 与提示词里的「think hard」不兼容
老一代推理模型时代,用户习惯在提示词里加「仔细想想」「一步步思考」来诱导更长的推理。据 Anthropic 面向 Opus 5.5 的指引,这类短语已经过时:模型始终自行推理并按任务与档位缩放深度,删除这些短语后响应更快、质量无可测下降。档位接管了这件工作,提示词里再写一遍属于重复控制。
主流实现对照
| 模型 / 平台 | 档位命名 | 默认档 | 已公开的量化信号 |
|---|---|---|---|
| Claude Opus 5.5 | 多档(含 Medium / High) | Medium | 官方称 Medium 匹配前代 Opus 5 的 High |
| Gemini 4 Hydrogen | low / medium / high / xhigh | high | 智能指数 high 51、xhigh 54 |
| Gemini 4 Carbon | 同上(评测用 high) | high | MathArena 85.4%(high 档) |
| DeepSeek-V4.1-Flash | 思考开 / 关(默认开) | 开 | 关闭思考时才能用非推理型智能体搜索 |
| LongCat-2.5 | 思考开 / 关可切换 | 视场景 | — |
| OpenRouter 等网关 | 统一 reasoning.effort 映射到各家 | 各家默认 | 跨模型对比时可按档位归一 |
两条可读的规律:
- 默认档普遍不是最高档。厂商把默认设在中位,是让多数人拿到「够用且不贵」的体验,这也意味着默认档就是最有性价比的起点。
- 档位增益是递减的。Hydrogen 从 high 到 xhigh 只涨 3 个智能指数点;Opus 5.5 从 Medium 到 High 的增益厂商自己都没给具体数字。一旦任务落在能力边界内,抬档位只是买心理安慰。
常见误区
- 误区一:档位越高越准。 厂商自己的口径是「更高档花更多钱,且不总是更好」。对已经能做对的题,多想的收益接近零,副作用是延迟上升。
- 误区二:只写模型名不写档位。 同一模型在 low 与 xhigh 下的榜单分数不同,成本可能差数倍。看到「某模型得分 X」时,必须先问它用的哪档——这也是本站记录评测结果时同时标
high/max的原因。 - 误区三:用档位替代上下文治理。 上下文塞爆、工具定义冗余、重试策略混乱,这些问题不会因为拉高档位而消失。先把 上下文工程 和 上下文压缩 做对,再谈档位。
- 误区四:以为档位能省单价。 档位不改变每 token 价格,只改变用量。想要单价更低只有两条路:换模型、换缓存策略(见 BYOK 与 prompt caching)。
- 误区五:跨代沿用旧档位。 Opus 5 时代的 High 与 Opus 5.5 的 Medium 已经等价,沿用旧配置等于多付一档钱买同样的效果。
怎么配:三步上手
第一步:用默认档跑一轮基线
# 以 Anthropic 兼容端点为例,medium 档(多数模型默认)
curl https://api.example.com/v1/messages \
-H "x-api-key: $API_KEY" \
-H "content-type: application/json" \
-d '{
"model": "claude-opus-5-5",
"max_tokens": 4096,
"reasoning": { "effort": "medium" },
"messages": [{ "role": "user", "content": "把这段代码的竞态改掉:…" }]
}'
记录三件事:通过率、平均耗时、总 token(含思考 token)。
第二步:只对失败样本升档
把升档当降级补偿用,而不是默认配置:
// 路由伪代码:先便宜跑,失败再升档
{
"attempts": [
{ "model": "claude-opus-5-5", "reasoning": { "effort": "medium" } },
{ "model": "claude-opus-5-5", "reasoning": { "effort": "high" }, "onlyIf": "verify_failed" }
]
}
判据要绑定可自动验证的结果(编译通过、测试绿、schema 校验通过),否则升档只会放大不可信的输出。
第三步:按「每成功任务成本」复盘
每任务成本 = Σ(每次尝试的 token 费 + 工具费) ÷ 成功任务数
只看单次调用费会误判——高价档往往一次就过,低价档可能试三次。口径详见 每任务成本。
哪些工具支持
- Claude Code / Codex:CLI 与模型选择器里直接切换档位,会话内可改;
/model一类的入口会把档位带过去。 - Cursor / Antigravity 等 IDE Agent:通常在模型选择器里以「模型名 + 档位」组合呈现,部分支持按任务类型自动选档。
- OpenRouter / LiteLLM 等网关:把各家的档位字段归一成统一参数,做跨模型对比时按档位对齐,避免「拿 A 的 high 比 B 的 low」。
- 自建 harness:需要自己决定何时升档(见上文的
onlyIf模式),并把思考 token 单独记账。
与相近概念的区别
| 概念 | 调的是什么 | 与推理档位的差别 |
|---|---|---|
| 推理档位 | 本次思考深度 | 同一模型内可调,不改能力边界 |
| 推理模型 | 训练出的推理能力 | 换权重;档位是这之上的旋钮 |
| thinking budget | 思考 token 硬上限 | 更细粒度,容易把推理腰斩 |
| 提示词「think hard」 | 诱导式指令 | 新一代模型已不需,属重复控制 |
| 温度 / top-p | 采样随机性 | 影响多样性,不影响思考量 |
FAQ
Q:档位调低会影响工具调用正确率吗? 会,但影响不对称。低档位对「选哪个工具」影响小,对「多步规划与错误恢复」影响大。做 Agent 时建议把简单工具调用留在低档、把规划环节单独升档。
Q:同一次会话里能换档吗? 多数产品支持按消息或按轮次切换。注意上下文里的历史思考内容是累积的,中途升档不会重算之前轮次的推理。
Q:为什么我的账单和档位不成比例? 因为工具费与缓存策略同时在起作用。搜索、抓取按次计费,与档位无关;缓存命中率高时 token 费被压得很低,此时档位的影响会被稀释。
Q:评测里怎么标才对? 写成「模型名 + 档位 + 日期」,例如「Gemini 4 Carbon(high),MathArena 2026-11-13」。缺任一项,跨文章对比就会失真。
延伸阅读
- 模型:Claude Opus 5.5 · Gemini 4 Carbon · Gemini 4 Hydrogen 资讯 · GPT-6.1 Sol
- 成本:每任务成本 · Prompt Caching · Token · BYOK
- 上下文:上下文工程 · 上下文压缩 · 上下文腐化 · 长上下文
- 推理:推理模型 · 提示词工程 · Agent 编排
- 工具:Claude Code · Codex · Cursor · OpenRouter · LiteLLM
- 资讯:Gemini 4 Carbon 登顶 MathArena:赢 4.8 个百分点,成本 15 倍
来源
- MathArena 官网(ETH Zurich SRI Lab / INSAIT,含 2026-11-13 收录 Fable 5.2 与 Carbon 的公告,一手)
- Gemini 4 Carbon takes the MathArena crown but costs 15 times more than GPT-6.1 Sol(The Decoder,2026-11-14,评测档位与成本对照)
- Anthropic says outdated prompting habits are slowing down Claude Opus 5.5(The Decoder,2026-11-14,转述 Anthropic 指引:Medium 起步、删掉 think hard、Medium 匹配前代 High)
- Gemini 4 Hydrogen 发布资讯(本站,四档命名与默认档一手核对)
- DeepSeek Full-Suite App API(官方公告,一手,思考开关与工具调用的互斥关系)
- 本页关于 Anthropic 官方指引的部分来自媒体转述,未能取得 anthropic.com 原文,故相关表述均按「据……指引」处理,未标为一手事实。
常见问题
推理档位和「换更贵的模型」有什么不同?
换模型换的是权重与训练目标,档位只改这一次推理投入多少思考 token。同一模型从 low 拉到 high,知识边界不变、格式习惯不变、工具调用风格不变,只有推理长度与深度变化——所以它更可预测,也更适合做成本微调。
档位调高一定更准吗?
不一定。厂商自己的说法就在降温:Anthropic 表示 Opus 5.5 在 Medium 档已能匹配前代 Opus 5 的 High 档,更高档位花更多钱但「并不总是更好」;谷歌 Gemini 4 Hydrogen 默认 high 档智能指数 51、拉到 xhigh 是 54,增益三个点但思考 token 也显著增加。档位存在边际收益递减,超过任务难度之后只是烧钱。
还需要在提示词里写「仔细想想 / think step by step」吗?
对新一代模型基本不需要,甚至有害。据 Anthropic 面向 Opus 5.5 的指引,模型会自行推理并按任务难度与所选档位缩放思考深度,删掉「think hard」「think carefully」这类短语后响应更快且质量没有可测下降。
默认该从哪个档位开始?
从厂商默认档开始(Opus 5.5 是 Medium、Gemini 4 Hydrogen 是 high),先用真实任务量一次「够不够」,不够再升。直接从最高档起步的代价是预算不可控,且掩盖了真正需要优化的地方(上下文、工具定义、重试策略)。
相关工具
Aider vs Claude Code:终端 AI 编程双雄怎么选
Aider vs Claude Code 2026 选型对比:开源 BYOK 多模型 vs Anthropic 订阅长任务 Agent,从编程能力、多模型支持、价格、Git 集成、国内可用性和适合人群判断,帮你选对终端 AI 编程工具。
Claude Code vs Cline:CLI AI Agent 怎么选?2026 对比
Claude Code vs Cline 2026 选型对比:Anthropic 官方闭源 CLI Agent vs Apache-2.0 开源 VS Code 插件。从模型绑定、工作流、MCP 支持、价格、隐私和适合人群 6 个维度帮你选对 CLI AI 编程工具。
Claude Code vs Codex CLI:终端 AI Agent 双雄对比
Claude Code vs Codex CLI 2026 选型对比:Anthropic 与 OpenAI 两大官方终端 Agent 的模型、长任务、MCP 生态、Windows 支持、订阅打包价格和国内可用性全方位对比,帮你判断该用哪个终端 AI Agent,以及能不能两个一起用。
Claude Code vs Crush:Anthropic 官方 vs 多模型 TUI(2026 实测选型)
Claude Code vs Crush 怎么选:Anthropic 官方 CLI(长任务最稳),对上 Charmbracelet 开源 TUI(多模型切换 + LSP)。按模型、长任务、价格对比。
Cursor vs Claude Code:什么时候用哪个?(2026 实测选型)
Cursor 和 Claude Code 到底怎么选?一句话结论 + 决策树 + 价格实测 + 国内可用性对比。GUI 派选 Cursor,终端长任务派选 Claude Code,最优解其实是共存。
Devin vs Claude Code:AI 编程 Agent 怎么选?异步自主 vs 终端同步对比
Devin vs Claude Code 2026 选型对比:Cognition 异步自主 Cloud Agent vs Anthropic 终端同步 CLI Agent,从形态、工作模式、长任务能力、并发、价格、中文支持和适合人群 8 个维度判断,帮你选对 AI 编程 Agent。