跳到主内容

Ollama v0.40.7 转正:Perplexity 的 27B 决策模型入库,Responses 跨模型对话不再失败

Ollama v0.40.7 已转正 stable:新增 Perplexity 27B 决策模型 pplx-decider,修复 Responses 跨 thinking 模型切换失败,ollama show 新增 renderer 字段。

2026-10-22 · Ollama 官方仓库 Release Notes(tag v0.40.7,published_at 2026-10-18T00:28:57Z,prerelease: false,经 GitHub Releases API 一手核对并读到 Release Notes 正文)

发布 2026-10-22核实 2026-10-22

要点速览

  • 本站 10-19 的口径已被推翻:当时写「stable 仍为 v0.40.6,v0.40.7-rc0 为候选版」。实际 v0.40.7 的 prerelease 字段为 false,它已是 stable。
  • 错在哪:判据没错(读的是 prerelease 字段),错在 tag 样本不全——同一版本号存在 -rc0 与正式两个 tag,只取到了前者。
  • 新增 Perplexity 的 27B 决策模型 pplx-decider,由 Qwen3.8-27B 微调而来。
  • Responses 对话两条硬伤修复:跨「带 thinking / 不带 thinking」模型切换不再失败;流式 Responses 的客户端工具调用乱序 / 重复被修(官方点名 Codex + web search 组合)。
  • ollama show 现在报告 renderer / parser / template_source,API 同步新增三个字段——排查「同一模型不同客户端表现不一致」终于有官方依据。
  • ollama launch claude 自动夹紧 CLAUDE_CODE_AUTO_COMPACT_WINDOW,避免「window too large」警告。
  • 当前 stable v0.40.7;v0.40.8-rc0(2026-10-21 16:20 UTC)为候选版,不要用于生产。

版本现状(2026-10-22 逐 tag 核对)

版本发布时间(UTC)prerelease说明
v0.40.8-rc02026-10-21 16:20:30true 候选版,勿用于生产
v0.40.72026-10-18 00:28:57false当前 stable,生产钉这一版
v0.40.62026-10-16 22:00:46false上一版 stable

自 10-12 起,0.40.3 / 0.40.4 / 0.40.5 / 0.40.6 / 0.40.7 五个 stable 落在九天内——发版节奏持续加快,钉版本务必写死具体号,不要用浮动范围。

判据修正:同一个版本号可能有多个 tag

本站 10-18 刚刚修正过一条判据:判断 stable 不能看 tag 名里有没有 -rc 后缀,必须读 Releases API 的 prerelease 字段。 这次又踩在同一个坑的另一面:

一份版本号下可能同时存在 -rcN 与正式两个 tag。只取列表里第一条(或只取带后缀的那条)会得出反向结论。修正后的操作:先按「版本号」把同名 tag 聚合起来再判断。

这条对谁有用:所有把 Ollama 当底座、又写脚本自动核对版本的团队——你们的「检测新版本」逻辑很可能也只取了列表第一条。

① 新模型:Perplexity 的 27B 决策模型入库

官方 Release Notes 第一条:

「pplx-decider is a 27B decision model from Perplexity, fine-tuned from Qwen3.8-27B」

「决策模型」这个定位值得注意。 它服务的不是「写一段文字」,而是判断、路由、打分这一类输出——正好是本站在 AI Agent 百科 里讲的编排层最常自己实现、又最容易做砸的那一环。

本站的保留:官方没有给出任何基准、质量或与同类模型对比的数据,因此本站不对它「能不能替代 GPT-4 级裁判」这类问题作判断。合理的用法是:先在你自己的判据集上跑 A/B,再决定是否进生产链路。

② 两条 Responses 修复:都打在「把 Ollama 当 OpenAI 兼容后端」这条路上

修复原文要点影响面
跨模型继续对话继续 OpenAI 兼容的 Responses 对话时,在「带 thinking」与「不带 thinking」的模型之间切换,或历史里含其他 provider 的 compaction 条目,此前会失败多模型路由场景(多 agent 编排的常见形态)
流式工具调用顺序流式 Responses 请求中,客户端工具调用可能出现在未闭合的 reasoning item 之前,产生乱序 / 重复的 tool call 事件官方点名 Codex + web search 组合

第二条尤其值得单独提醒:工具调用乱序 / 重复,在 agent 框架里的表现是「莫名其妙多执行了一次工具」,而不是「报错」。 如果你的编排链路出现过「同一个搜索被执行两次」这类现象,且后端是 Ollama,这一条就是候选解释。

行动:用 agent 框架(Codex、Claude Code、OpenHands 等)接本地模型的,升级后请复测一次工具调用序列。

③ ollama show 变成排查工具:renderer / parser / template_source

官方原文:ollama show 现在会报告模型用的 renderer 与 parser,以及它的 chat template 来自哪里;API 侧同步暴露 renderer、parser、template_source 三个字段。

为什么这条比它看起来重要:本地 LLM 用户最头疼的排障场景之一是——同一个模型,在 A 客户端里表现正常,在 B 客户端里答非所问。此前只能靠猜(模板被谁改了?解析是不是差一版?)。现在这三个字段给出了官方口径的归因入口:先看是不是 renderer/parser 不同,再看 template 来自模型文件还是被覆盖。

④ 投机解码、远程取消与 Claude Code 联动

项内容
投机解码扩展更多 draft 模型可用于 speculative decoding:llama-server 自动推断 draft 类型,不再要求 Ollama 先识别。可组合空间变大
远程模型取消路由到远程模型时,客户端断开后 ollama.com 上的请求会被取消,不再继续跑。「关掉终端其实还在算」的资源与费用放大被修掉
Claude Code 联动ollama launch claude 会把 CLAUDE_CODE_AUTO_COMPACT_WINDOW 夹到 Claude Code 支持的范围内,避免「window too large」警告
底层更新更新 llama.cpp 与 MLX(通常需要重新拉取一次量化版本才能吃到性能变化)

对开发者的影响

① 生产请钉 v0.40.7,不要被 v0.40.8-rc0 的更大数字误导。

② 把 Ollama 当 OpenAI 兼容后端跑多模型路由 / agent 框架的:这一版建议优先升级——两条 Responses 修复都打在这条路上。

③ 排查模型行为差异时,先跑 ollama show 看 renderer / parser / template_source,比换客户端逐个试高效得多。

④ 用 ollama launch claude 起本地 Claude Code 的:省掉一次手改环境变量。

⑤ 想试 pplx-decider 的:官方无基准数据,请先在自己的判据集上做 A/B,不要直接替换现有裁判模型。

AI 之家 观点

这一版真正的看点是它把「本地 LLM 的可诊断性」往上推了一格。 renderer / parser / template_source 这三个字段看起来是元数据,实际解决的是本地推理链路里最贵的一类成本——排障时无法归因。云端 API 的排障至少有一个确定的服务端;本地链路里,模型文件、量化版本、客户端、模板覆盖层层叠加,出问题只能二分法。官方把这三个字段暴露出来,等于把二分法替换成了直接查表。

第二个观察:Responses 兼容性的两条修复,说明了「OpenAI 兼容」这件事的实际难度。 「暴露 /v1/chat/completions」只是接口形状一致;真正的兼容性在会话状态——thinking 标记怎么存、别的 provider 写进历史的 compaction 条目怎么读、流式事件里工具调用与推理项的相对顺序怎么排。这些全都不在接口定义里,只在实现里。 所以本站一贯的建议是:把「兼容」当成一个需要自己回归的断言,而不是厂商给你的承诺。

第三个观察还是要落到本站自己的纪律。 本站 10-18 刚因为「看 tag 名后缀」误判过一次(把 v0.40.6 当 rc0),这次又因为「只取到一个 tag」误判。两次都是同一类错误:用不完整的样本下了确定的结论。 修正后的做法已经写进工具卡——按版本号聚合所有同名 tag 再判断。同时按本站 10-21 形成的写法,被证伪时保留原判断痕迹 + 追加结案,不静默改写。读者有权看到结论是怎么变的,以及为什么。

待核实

  • v0.40.8-rc0 的 Release Notes 正文:本站未取得,不对该版改动内容作任何断言。
  • pplx-decider 的能力边界与基准:官方 Release Notes 只有一句定位描述,无参数细节、无基准、无对比数据,本站不作能力判断。
  • renderer / parser / template_source 的完整取值范围:官方未列出枚举值,本站未读 API 文档,请以官方文档为准。
  • 投机解码「更多 draft 模型」的具体名单与性能收益:官方未给数据,本站不作推断。
  • llama.cpp / MLX 本次更新的版本号与受益面:官方只写「Updated llama.cpp and MLX」,未给版本与性能数字。

来源

相关对比

Aider vs Claude Code:终端 AI 编程双雄怎么选

Aider vs Claude Code 2026 选型对比:开源 BYOK 多模型 vs Anthropic 订阅长任务 Agent,从编程能力、多模型支持、价格、Git 集成、国内可用性和适合人群判断,帮你选对终端 AI 编程工具。

Claude Code vs Cline:CLI AI Agent 怎么选?2026 对比

Claude Code vs Cline 2026 选型对比:Anthropic 官方闭源 CLI Agent vs Apache-2.0 开源 VS Code 插件。从模型绑定、工作流、MCP 支持、价格、隐私和适合人群 6 个维度帮你选对 CLI AI 编程工具。

Claude Code vs Codex CLI:终端 AI Agent 双雄对比

Claude Code vs Codex CLI 2026 选型对比:Anthropic 与 OpenAI 两大官方终端 Agent 的模型、长任务、MCP 生态、Windows 支持、订阅打包价格和国内可用性全方位对比,帮你判断该用哪个终端 AI Agent,以及能不能两个一起用。

Claude Code vs Crush:Anthropic 官方 vs 多模型 TUI(2026 实测选型)

Claude Code vs Crush 怎么选:Anthropic 官方 CLI(长任务最稳),对上 Charmbracelet 开源 TUI(多模型切换 + LSP)。按模型、长任务、价格对比。

Cursor vs Claude Code:什么时候用哪个?(2026 实测选型)

Cursor 和 Claude Code 到底怎么选?一句话结论 + 决策树 + 价格实测 + 国内可用性对比。GUI 派选 Cursor,终端长任务派选 Claude Code,最优解其实是共存。

Devin vs Claude Code:AI 编程 Agent 怎么选?异步自主 vs 终端同步对比

Devin vs Claude Code 2026 选型对比:Cognition 异步自主 Cloud Agent vs Anthropic 终端同步 CLI Agent,从形态、工作模式、长任务能力、并发、价格、中文支持和适合人群 8 个维度判断,帮你选对 AI 编程 Agent。

相关评测