跳到主内容

Ollama v0.40.15:recurrent 与视觉模型的并发限制解除,小米 MiMo V2.6 入库

Ollama v0.40.15 于 2026-11-03 转正:recurrent 与视觉 GGUF 模型首次支持多请求并行,小米 MiMo V2.6 与 AutoTrust 决策模型入库,launch 支持 Kimi Code CLI。

2026-11-07 · Ollama 官方 Release Notes(GitHub Releases API 逐 tag 一手核对,2026-11-07)

发布 2026-11-07核实 2026-11-07

要点速览

  • v0.40.15(tag 时间戳 2026-11-03T22:52:31Z,prerelease: false)已转正为 stable,接替同日 01:40 的 v0.40.14,生产请改钉 v0.40.15。两个 stable 相隔不到 21 小时,延续 10 月以来「一天一版」的节奏。
  • 本版头号:官方首次明写「recurrent 与视觉 GGUF 模型可以同时服务多个请求」——"Recurrent and vision GGUF models can now serve more than one request at a time."
    • 这句话的反向含义是:此前这两类模型在 Ollama 上被限制在单请求。对搭多用户服务、或多 agent 共用一个 daemon 的部署,这是实质解禁。
    • 官方未给槽位数、未给显存换算式,也未说明是否受 OLLAMA_NUM_PARALLEL 统一控制;本站未实测各模型族的实际并行数,不作推断。
  • 🆕 小米 MiMo V2.6 入库:官方说明为 9B、面向代码与 agent 工作流,ollama run mimo-v2.6 即可拉取。参数量之外的规格(上下文、量化档、许可)本版未列。
  • 🆕 AutoTrust 决策模型家族:autotrust-jev,含 9b / 35b / 27b-vl 三档,35b 与 27b-vl 可读图;用法是给一段文本 + 一个 --ask 问题,返回选项、是/否概率与评分。本版仅 Apple silicon 支持,官方未标注厂商归属。
  • 🆕 ollama launch 支持 Kimi Code CLI:官方原文称其为 kimi-cli 的后继("the successor to kimi-cli"),并主动提供迁移现有 kimi-cli 配置的选项。
  • ollama launch 补两处模型清单:自动填充 Pi 的模型列表,使模型可在 Pi 内选择;Claude Desktop 的模型选择器开始显示 Ollama 的实际模型名(此前显示的是通用名)。
  • Qwen3 与 Qwen3.5 支持长上下文(YaRN)缩放。
  • 无参数运行 ollama 进入 welcome launcher(此前进的是帮助文本)。

并发这条为什么值得单独看

Ollama 的并发行为一直是本地部署里最容易误判的一项:同一台机器、同一个 daemon,不同模型族的并行能力从根上不同。

  • 常规 dense 模型可以靠 OLLAMA_NUM_PARALLEL 与 OLLAMA_MAX_LOADED_MODELS 调,代价是显存按槽位倍增。
  • recurrent(线性注意力 / 混合架构)与视觉模型此前被官方钳在单请求,因此无论怎么调环境变量都上不去。这类模型在本地跑 agent 时最难受——一个 daemon 只能服务一个会话,第二个请求排队等。

v0.40.15 解除的正是这一层限制。 但请把三件事分开看:

层面本版给的本版没给的
能力可以多请求并行了一个模型最多几个槽位
控制—是否统一受 OLLAMA_NUM_PARALLEL 约束,还是各自有独立上限
成本—每增加一个槽位,KV cache 占多少显存

结论:这是「从 1 到 N」的解禁,不是「N 等于几」的答案。 上生产前请用你自己的模型与上下文长度压一遍,别按「官方说能并发」就直接把 parallelism 压满——本地 OOM 通常表现为请求超时而非显式报错,很难第一时间归因。

决策模型这条的定位

autotrust-jev 与本站 9 月记录的 TypeSafe AI 的 Jev 决策模型是同一条产品思路:不生成文本,直接输出结构化判断。区别在于:

  • **Jev(TypeSafe AI)**走的是 API 与云服务,卖点是延迟(端到端 70–500 毫秒)与按 token 计价。
  • AutoTrust 走的是本地 Ollama 权重,卖点变成「判断逻辑不出本机」。

两者是否为同一家、是否有授权关系,官方说明里都没写,本站仅记录「同一类产品形态在本地侧出现」,不推断归属。三档规模里 9b 能跑在消费级机器上,35b 与 27b-vl 的实际显存需求官方未给。

Kimi Code CLI 进 launch 的含义

ollama launch <cli> 这条命令的作用是把本地模型接进某个编码 CLI(此前已支持 claude、codex、OpenCode v2、Pi)。本版把 Kimi Code CLI 纳入,并且带迁移逻辑——说明官方把它当作 kimi-cli 的继任者来对待,而不是并列的另一个工具。

这条与本站 Kimi Code 工具卡记录的产品线(2.5.x 主线)方向一致:本地模型 ↔ 编码 CLI 的适配层正在被 Ollama 官方标准化,而不是每个 CLI 各自写文档教用户配环境变量。

AI 之家 观点

一、「并发从 1 到 N」比「又支持了几个新模型」重要一个量级。 本站记录 Ollama 的版本线已经十几轮,绝大多数版本是「某家族入库」;真正会改变部署形态的条目很少,本版这条算一个。 判断标准很简单:模型入库只影响「能不能跑」,并发上限影响「怎么跑」——后者决定你是一人一 daemon,还是一 daemon 服务一个团队。

二、但「能并发」和「该并发」是两件事。 recurrent 架构省的是长上下文的计算量,不省 KV cache 显存;视觉模型多开一个槽位还要多一份图像编码缓冲。在 24GB 显存的机器上,最可能的结局是第二个请求进来就把第一个挤成超时。 建议做法:先固定上下文长度,从 2 槽位起压,用首 token 延迟与超时率而不是「有没有报错」判断是否过载。

三、MiMo V2.6 选 9B 这个尺寸是有讲究的。 官方把它定位成「代码与 agent 工作流」而不是通用对话——9B 是能在笔记本上常驻、同时还能跑得动工具调用的甜点区。但 本版说明里没有上下文长度,而长上下文恰恰是 coding agent 的刚需;在拿到规格前,不要把它当长仓任务的主力。

四、给使用者的四条动作:① 生产改钉 v0.40.15;② 跑 recurrent 或视觉模型的,重新压一遍并发,并用超时率而非报错率判断;③ 在用 kimi-cli 的,走 ollama launch 的迁移选项前先备份原配置;④ Qwen3 / Qwen3.5 长上下文的,复核 YaRN 缩放开启后显存是否还够。

待核实

  • recurrent / 视觉模型的实际并发槽位数,以及是否统一受 OLLAMA_NUM_PARALLEL 约束——官方只有一句「can now serve more than one request at a time」,本站未实测。
  • AutoTrust 的厂商归属与许可——官方说明未标注;autotrust-jev 与 TypeSafe AI 的 Jev 是否相关不作推断。
  • MiMo V2.6 的上下文长度、量化档位与许可——本版说明未列。
  • ollama launch 对 Kimi Code CLI 的迁移范围(是否搬模型配置、是否搬 profile)。
  • Qwen3 / Qwen3.5 的 YaRN 缩放是默认开启还是需要显式参数——官方只写「已支持」。
  • v0.40.15 是否与 v0.40.15-rc0 / -rc1 共用时间戳——本站上轮记录到正式 tag 曾 404、只有 rc 存续;本轮正式 tag 已存在,但命名 tag 的聚合规整性本次未逐条复核。

来源

延伸阅读:Ollama 工具卡、Kimi Code 工具卡、Jev 决策模型资讯、MoE 百科、长上下文百科。

常见问题

recurrent 模型并发限制解除,具体指什么?

官方原文是一句话:Recurrent and vision GGUF models can now serve more than one request at a time。此前这两类模型在 Ollama 上被钳在单请求,v0.40.15 起可以并行处理多个请求。但每个模型能开几个槽位取决于显存与上下文长度,官方未给具体档位,本站也未实测。

能直接用 ollama run mimo-v2.6 吗?

官方给了这条命令。MiMo V2.6 是小米 MiMo 的 9B 模型,官方定位为代码与 agent 工作流。参数规模、上下文长度与量化档位本版说明里未列出。

AutoTrust 是哪个厂商的?

官方说明只写 AutoTrust decision models,未标注厂商归属。家族含 9b、35b、27b-vl 三档,35b 与 27b-vl 可读图;本版仅 Apple silicon 支持。本站不对其厂商归属作断言。

相关对比

Aider vs Claude Code:终端 AI 编程双雄怎么选

Aider vs Claude Code 2026 选型对比:开源 BYOK 多模型 vs Anthropic 订阅长任务 Agent,从编程能力、多模型支持、价格、Git 集成、国内可用性和适合人群判断,帮你选对终端 AI 编程工具。

Claude Code vs Cline:CLI AI Agent 怎么选?2026 对比

Claude Code vs Cline 2026 选型对比:Anthropic 官方闭源 CLI Agent vs Apache-2.0 开源 VS Code 插件。从模型绑定、工作流、MCP 支持、价格、隐私和适合人群 6 个维度帮你选对 CLI AI 编程工具。

Claude Code vs Codex CLI:终端 AI Agent 双雄对比

Claude Code vs Codex CLI 2026 选型对比:Anthropic 与 OpenAI 两大官方终端 Agent 的模型、长任务、MCP 生态、Windows 支持、订阅打包价格和国内可用性全方位对比,帮你判断该用哪个终端 AI Agent,以及能不能两个一起用。

Claude Code vs Crush:Anthropic 官方 vs 多模型 TUI(2026 实测选型)

Claude Code vs Crush 怎么选:Anthropic 官方 CLI(长任务最稳),对上 Charmbracelet 开源 TUI(多模型切换 + LSP)。按模型、长任务、价格对比。

Cursor vs Claude Code:什么时候用哪个?(2026 实测选型)

Cursor 和 Claude Code 到底怎么选?一句话结论 + 决策树 + 价格实测 + 国内可用性对比。GUI 派选 Cursor,终端长任务派选 Claude Code,最优解其实是共存。

Devin vs Claude Code:AI 编程 Agent 怎么选?异步自主 vs 终端同步对比

Devin vs Claude Code 2026 选型对比:Cognition 异步自主 Cloud Agent vs Anthropic 终端同步 CLI Agent,从形态、工作模式、长任务能力、并发、价格、中文支持和适合人群 8 个维度判断,帮你选对 AI 编程 Agent。

相关评测