Ollama v0.40.7 转正:Perplexity 的 27B 决策模型入库,Responses 跨模型对话不再失败
Ollama v0.40.7 已转正 stable:新增 Perplexity 27B 决策模型 pplx-decider,修复 Responses 跨 thinking 模型切换失败,ollama show 新增 renderer 字段。
2026-10-22 · Ollama 官方仓库 Release Notes(tag v0.40.7,published_at 2026-10-18T00:28:57Z,prerelease: false,经 GitHub Releases API 一手核对并读到 Release Notes 正文)
发布 2026-10-22核实 2026-10-22要点速览
- 本站 10-19 的口径已被推翻:当时写「stable 仍为
v0.40.6,v0.40.7-rc0为候选版」。实际v0.40.7的prerelease字段为false,它已是 stable。 - 错在哪:判据没错(读的是
prerelease字段),错在 tag 样本不全——同一版本号存在-rc0与正式两个 tag,只取到了前者。 - 新增 Perplexity 的 27B 决策模型
pplx-decider,由 Qwen3.8-27B 微调而来。 - Responses 对话两条硬伤修复:跨「带 thinking / 不带 thinking」模型切换不再失败;流式 Responses 的客户端工具调用乱序 / 重复被修(官方点名 Codex + web search 组合)。
ollama show现在报告 renderer / parser / template_source,API 同步新增三个字段——排查「同一模型不同客户端表现不一致」终于有官方依据。ollama launch claude自动夹紧CLAUDE_CODE_AUTO_COMPACT_WINDOW,避免「window too large」警告。- 当前 stable
v0.40.7;v0.40.8-rc0(2026-10-21 16:20 UTC)为候选版,不要用于生产。
版本现状(2026-10-22 逐 tag 核对)
| 版本 | 发布时间(UTC) | prerelease | 说明 |
|---|---|---|---|
v0.40.8-rc0 | 2026-10-21 16:20:30 | true | 候选版,勿用于生产 |
| v0.40.7 | 2026-10-18 00:28:57 | false | 当前 stable,生产钉这一版 |
| v0.40.6 | 2026-10-16 22:00:46 | false | 上一版 stable |
自 10-12 起,0.40.3 / 0.40.4 / 0.40.5 / 0.40.6 / 0.40.7 五个 stable 落在九天内——发版节奏持续加快,钉版本务必写死具体号,不要用浮动范围。
判据修正:同一个版本号可能有多个 tag
本站 10-18 刚刚修正过一条判据:判断 stable 不能看 tag 名里有没有 -rc 后缀,必须读 Releases API 的 prerelease 字段。 这次又踩在同一个坑的另一面:
一份版本号下可能同时存在
-rcN与正式两个 tag。只取列表里第一条(或只取带后缀的那条)会得出反向结论。修正后的操作:先按「版本号」把同名 tag 聚合起来再判断。
这条对谁有用:所有把 Ollama 当底座、又写脚本自动核对版本的团队——你们的「检测新版本」逻辑很可能也只取了列表第一条。
① 新模型:Perplexity 的 27B 决策模型入库
官方 Release Notes 第一条:
「
pplx-decideris a 27B decision model from Perplexity, fine-tuned from Qwen3.8-27B」
「决策模型」这个定位值得注意。 它服务的不是「写一段文字」,而是判断、路由、打分这一类输出——正好是本站在 AI Agent 百科 里讲的编排层最常自己实现、又最容易做砸的那一环。
本站的保留:官方没有给出任何基准、质量或与同类模型对比的数据,因此本站不对它「能不能替代 GPT-4 级裁判」这类问题作判断。合理的用法是:先在你自己的判据集上跑 A/B,再决定是否进生产链路。
② 两条 Responses 修复:都打在「把 Ollama 当 OpenAI 兼容后端」这条路上
| 修复 | 原文要点 | 影响面 |
|---|---|---|
| 跨模型继续对话 | 继续 OpenAI 兼容的 Responses 对话时,在「带 thinking」与「不带 thinking」的模型之间切换,或历史里含其他 provider 的 compaction 条目,此前会失败 | 多模型路由场景(多 agent 编排的常见形态) |
| 流式工具调用顺序 | 流式 Responses 请求中,客户端工具调用可能出现在未闭合的 reasoning item 之前,产生乱序 / 重复的 tool call 事件 | 官方点名 Codex + web search 组合 |
第二条尤其值得单独提醒:工具调用乱序 / 重复,在 agent 框架里的表现是「莫名其妙多执行了一次工具」,而不是「报错」。 如果你的编排链路出现过「同一个搜索被执行两次」这类现象,且后端是 Ollama,这一条就是候选解释。
行动:用 agent 框架(Codex、Claude Code、OpenHands 等)接本地模型的,升级后请复测一次工具调用序列。
③ ollama show 变成排查工具:renderer / parser / template_source
官方原文:ollama show 现在会报告模型用的 renderer 与 parser,以及它的 chat template 来自哪里;API 侧同步暴露 renderer、parser、template_source 三个字段。
为什么这条比它看起来重要:本地 LLM 用户最头疼的排障场景之一是——同一个模型,在 A 客户端里表现正常,在 B 客户端里答非所问。此前只能靠猜(模板被谁改了?解析是不是差一版?)。现在这三个字段给出了官方口径的归因入口:先看是不是 renderer/parser 不同,再看 template 来自模型文件还是被覆盖。
④ 投机解码、远程取消与 Claude Code 联动
| 项 | 内容 |
|---|---|
| 投机解码扩展 | 更多 draft 模型可用于 speculative decoding:llama-server 自动推断 draft 类型,不再要求 Ollama 先识别。可组合空间变大 |
| 远程模型取消 | 路由到远程模型时,客户端断开后 ollama.com 上的请求会被取消,不再继续跑。「关掉终端其实还在算」的资源与费用放大被修掉 |
| Claude Code 联动 | ollama launch claude 会把 CLAUDE_CODE_AUTO_COMPACT_WINDOW 夹到 Claude Code 支持的范围内,避免「window too large」警告 |
| 底层更新 | 更新 llama.cpp 与 MLX(通常需要重新拉取一次量化版本才能吃到性能变化) |
对开发者的影响
① 生产请钉 v0.40.7,不要被 v0.40.8-rc0 的更大数字误导。
② 把 Ollama 当 OpenAI 兼容后端跑多模型路由 / agent 框架的:这一版建议优先升级——两条 Responses 修复都打在这条路上。
③ 排查模型行为差异时,先跑 ollama show 看 renderer / parser / template_source,比换客户端逐个试高效得多。
④ 用 ollama launch claude 起本地 Claude Code 的:省掉一次手改环境变量。
⑤ 想试 pplx-decider 的:官方无基准数据,请先在自己的判据集上做 A/B,不要直接替换现有裁判模型。
AI 之家 观点
这一版真正的看点是它把「本地 LLM 的可诊断性」往上推了一格。 renderer / parser / template_source 这三个字段看起来是元数据,实际解决的是本地推理链路里最贵的一类成本——排障时无法归因。云端 API 的排障至少有一个确定的服务端;本地链路里,模型文件、量化版本、客户端、模板覆盖层层叠加,出问题只能二分法。官方把这三个字段暴露出来,等于把二分法替换成了直接查表。
第二个观察:Responses 兼容性的两条修复,说明了「OpenAI 兼容」这件事的实际难度。 「暴露 /v1/chat/completions」只是接口形状一致;真正的兼容性在会话状态——thinking 标记怎么存、别的 provider 写进历史的 compaction 条目怎么读、流式事件里工具调用与推理项的相对顺序怎么排。这些全都不在接口定义里,只在实现里。 所以本站一贯的建议是:把「兼容」当成一个需要自己回归的断言,而不是厂商给你的承诺。
第三个观察还是要落到本站自己的纪律。 本站 10-18 刚因为「看 tag 名后缀」误判过一次(把 v0.40.6 当 rc0),这次又因为「只取到一个 tag」误判。两次都是同一类错误:用不完整的样本下了确定的结论。 修正后的做法已经写进工具卡——按版本号聚合所有同名 tag 再判断。同时按本站 10-21 形成的写法,被证伪时保留原判断痕迹 + 追加结案,不静默改写。读者有权看到结论是怎么变的,以及为什么。
待核实
v0.40.8-rc0的 Release Notes 正文:本站未取得,不对该版改动内容作任何断言。pplx-decider的能力边界与基准:官方 Release Notes 只有一句定位描述,无参数细节、无基准、无对比数据,本站不作能力判断。renderer/parser/template_source的完整取值范围:官方未列出枚举值,本站未读 API 文档,请以官方文档为准。- 投机解码「更多 draft 模型」的具体名单与性能收益:官方未给数据,本站不作推断。
- llama.cpp / MLX 本次更新的版本号与受益面:官方只写「Updated llama.cpp and MLX」,未给版本与性能数字。