Kimi K2 Thinking
月之暗面 2025 年 11 月开源的 agent 推理模型,1T/32B MoE,可连续 200-300 次工具调用,原生 INT4 提速 2x,BrowseComp 超过 GPT-5 High。
发布 2026-06-28更新 2026-11-02规格
- 厂商
- 月之暗面
- 发布日期
- 2025-11-06
- 类型
- 推理模型
- 上下文窗口
- 256K tokens
- 最大输出
- 32K tokens
- 定价
- 开源可自部署 · 官方 API 按量计费
- API 兼容
- openai, anthropic
基准测试
优势
- •开源 agent 推理 SOTA,1T 总参 / 32B 激活 MoE
- •可维持 200–300 次连续工具调用不退化
- •原生 INT4 量化(QAT),低延迟模式提速 2x
- •256K 上下文,Modified MIT 许可可商用
- •BrowseComp 60.2% 超过 GPT-5 High
不足
- •1T 参数自部署门槛极高,需多卡集群
- •纯编程 SWE-bench 71.3% 略低于闭源旗舰
- •max output 相对保守
- •中文生态外文档相对少
适用场景
概述
Kimi K2 Thinking 是月之暗面(Moonshot AI)于 2025 年 11 月 6 日开源的「思维模型」,定位为「thinking agent」——把分步推理(Chain-of-Thought)与动态工具调用交织起来处理复杂长程任务。它是站内 Kimi K2 的推理强化版,发布时在推理/编码/agentic 基准上被视为开源 SOTA,部分指标超过 GPT-5、Claude Sonnet 4.5(Thinking)和 Grok-4。
核心能力
超长工具调用链
最突出的能力是可维持 200–300 次连续工具调用而保持目标连贯,远超此前模型通常 30–50 步就开始退化的水平。这对长链路 agent(深度搜索、多步自动化)是质变。关于工具调用机制见 Function Calling。
原生 INT4 量化
后训练阶段采用量化感知训练(QAT),原生支持 INT4:低延迟模式提速 2x、显存占用下降,且几乎无性能损失。这降低了自部署成本。
模型规格
| 项目 | 参数 |
|---|---|
| 架构 | Mixture-of-Experts (MoE) |
| 总参 / 激活 | 1T / 32B |
| 专家数 | 384(每 token 选 8 + 1 共享) |
| 注意力 | MLA(多头潜在注意力) |
| 上下文 | 256K |
| 许可 | Modified MIT(可商用) |
基准亮点
- Agentic 搜索:BrowseComp 60.2%,超过 GPT-5 High 的 54.9%
- 推理:AIME25(含 Python)99.1%,GPQA 84.5%
- 编码:SWE-bench Verified 71.3%,LiveCodeBench V6 83.1%
部署示例
pip install vllm
vllm serve "moonshotai/Kimi-K2-Thinking"
# 推荐 temperature 1.0
response = client.chat.completions.create(
model="moonshotai/Kimi-K2-Thinking",
messages=messages,
temperature=1.0,
max_tokens=4096,
)
print(response.choices[0].message.content)
print(response.choices[0].message.reasoning_content) # 思考过程
推荐推理引擎:vLLM、SGLang、KTransformers。
与同类模型怎么选
| 维度 | Kimi K2 Thinking | MiniMax M2 | Qwen3-Coder |
|---|---|---|---|
| 定位 | 开源 agent 推理 | 开源 agent/编程性价比 | 开源 agentic 编码 |
| 参数 | 1T/32B | 230B/10B | 480B/35B |
| 上下文 | 256K | 大 | 256K(可扩 1M) |
| 许可 | Modified MIT | MIT | Apache 2.0 |
| 自部署门槛 | 极高 | 中 | 高 |
建议:要最强开源 agent 推理且有集群资源选 K2 Thinking;资源有限、追性价比看 MiniMax M2;纯编码选 Qwen3-Coder。
适合 / 不适合
适合:
- 开源 agentic 推理与工具编排——1T 总参 / 32B 激活 MoE,可维持 200–300 次连续工具调用不退化,这是本卡最硬的卖点
- 深度搜索 / 多步检索 agent——BrowseComp 60.2%(发布期口径)在同代开源模型里属于第一梯队
- 需要可商用开源权重的私有部署——Modified MIT 许可,权重可自部署,数据不出域场景成立
- 长链路自动化任务——原生 INT4 量化(QAT)带来的低延迟模式提速约 2x,长链路上体感明显
- 做「开源推理基线」的对照评测——本卡是 2025-11 代开源 agent 推理的锚点,适合拿来衡量新一代开源模型是否真的进步了
不适合:
- 新项目把它当编程主力——SWE-bench Verified 71.3% 在发布期是开源 SOTA,但本卡 releaseDate 为 2025-11-06,Kimi 线已推进到 K2.5 / K3 / K3.1 Pro;新项目请先评估 Kimi K3 与 Kimi K2
- 没有多卡集群的团队自部署——1T 参数量级的自部署门槛极高,个人与中小团队不现实
- 需要长输出的场景——32K maxOutput 在今天偏保守,长文档生成要分段
- 中文生态外依赖官方文档的团队——发布期口径是「中文生态外文档相对少」
时效提示:本卡事实基准为 2025-11-06 发布期的公开资料,最后编辑日 2026-11-02。定价、基准分数、权重可下载状态与许可条款均可能已变化;本站 2026-11-02 复核时未能取得权重仓库的一手证据(Hugging Face API 请求无响应)——「取证失败」不等于「权重未开放」,接入前请以月之暗面官方渠道为准。
来源
- 月之暗面官方渠道(Kimi 开放平台与开源发布页;官网为 SPA,本卡发布期未取得可直接引用的原文,相关数字为公开资料转述)
- Moonshot AI 官方 GitHub 组织(开源仓库与发布记录,一手)
- 站内交叉:Kimi K3、Kimi K2、Ollama、Cline
- SWE-bench Verified / BrowseComp / AIME25 / HLE / GPQA / LiveCodeBench V6 分数均引自 2025-11 发布期公开资料,本站未在 2026-11 重新核对榜单原始表,作为历史记录保留,不作为当前位次的依据;「200–300 次连续工具调用」「INT4 提速 2x」同样为发布期口径,请以官方最新说明与自家实测为准。
避坑清单
- 1T 参数不是消费级硬件能跑的:自部署需多卡集群,个人优先用官方 API 或 OpenRouter。
- 用 INT4 原生权重:QAT 训练的 INT4 几乎无损,别自己粗暴量化。
- Heavy Mode 是并行策略:HLE 51% 是 8 轨迹并行聚合的结果,单轨调用别按此预期。
- temperature 保持 1.0:官方推荐值。
实际使用体验
在深度搜索 agent 中连续跑 200+ 次工具调用,K2 Thinking 的目标连贯性确实比上一代强一档:前 100 步几乎不会丢主线,到 200 步前后偶有信息回查但能自行拉回,真正的退化出现在 250 步之后——表现为重复检索已访问过的来源、子目标发散。整体可用,但建议在 200 步左右设检查点切分任务,比放任跑满 300 步更稳。
INT4 量化模式与标准模式的体感差异主要在速度:长链路 agent 场景下端到端延迟约快 1.6–2x,显存压力明显下降;质量上在搜索/推理类任务几乎感知不到差异,纯编码边界 case 偶有细微退化但不成问题。与 GPT-5、Claude Opus 4.5 在 agent 推理上对比,K2 Thinking 在搜索类长链路任务已能打平甚至局部领先(BrowseComp 即是例证),但在需要精细代码重构、多文件协同的编码 agent 场景仍有可感知差距——闭源旗舰在「单步决策质量」上更稳,长链路容错率更高。
reasoning_content 字段输出的是模型实际的思考链,不是事后总结,对调试 agent 行为很有价值:能直接看到它为什么选这个工具、何时决定切换策略。出错时定位问题效率比只看最终输出高得多,建议在自建 agent 框架里把它一并落库。关于该字段的接入见 Function Calling。
FAQ
Q: K2 Thinking 和普通 K2 有什么区别? K2 Thinking 是 Kimi K2 的推理强化版,叠加了思维链训练与工具调用交织能力,擅长长链路 agent 任务;普通 K2 更偏通用对话与单轮工具调用,长程稳定性与推理深度不及 Thinking 版。
Q: 1T 参数自部署需要什么硬件? 全量 BF16 权重约 2TB,需 16×H200 或 24×H100 以上集群;INT4 原生权重可压到约 500GB,4×H200 / 8×H100 可起步(留 KV cache 余量建议翻倍)。个人与中小团队建议直接用官方 API 或 OpenRouter。
Q: Modified MIT 许可有什么限制? Modified MIT 在标准 MIT 基础上新增了使用条款:月活超过 1 亿的商业实体需另行向月之暗面申请商用授权;个人、科研及中小规模商用不受影响。具体以仓库 LICENSE 文件为准。
Q: 国内怎么调用 K2 Thinking?
官方 API(platform.moonshot.cn)原生支持,模型名 kimi-k2-thinking;也可经 OpenRouter 等聚合平台调用。自部署权重走 HuggingFace 或 ModelScope 下载。
延伸阅读
- 对比同类:MiniMax M2 / Qwen3-Coder / DeepSeek-R1
- 同系列:Kimi K2
- 本地部署:Ollama
相关工具
Claude Code vs Cline:CLI AI Agent 怎么选?2026 对比
Claude Code vs Cline 2026 选型对比:Anthropic 官方闭源 CLI Agent vs Apache-2.0 开源 VS Code 插件。从模型绑定、工作流、MCP 支持、价格、隐私和适合人群 6 个维度帮你选对 CLI AI 编程工具。
Cline vs Roo Code:同源衍生,2026 年该装哪个?
Cline 与 Roo Code 2026 选型对比:Roo Code 是 Cline 的衍生分支,增加了 Architect / Code / Ask 多种模式与更强的自定义能力。从产品形态、上手成本、长任务、成本可见性、计费方式与生态集成 6 个维度给出明确取舍。
OpenRouter vs LiteLLM:LLM API 网关怎么选?SaaS 聚合 vs 开源自托管
OpenRouter vs LiteLLM 2026 选型对比:从模型数量、自托管能力、fallback 策略、虚拟 Key、国内延迟、成本结构和适合人群判断,帮你决定用 SaaS 聚合 OpenRouter 还是用开源自托管 LiteLLM 做 LLM 网关。
Ollama vs LM Studio:本地跑大模型,命令行派 vs 图形派(2026 选型)
Ollama 和 LM Studio 都能在本机跑开源大模型。一句话结论 + 决策树 + 成本对比:要命令行、要被其他工具调用选 Ollama,要图形界面、要可视化调参选 LM Studio。
Msty vs Ollama:本地大模型怎么跑?2026 对比
Msty vs Ollama 2026 选型对比:精品桌面 GUI 工作站 vs 本地 LLM 推理服务。从定位、易用性、模型管理、功能、价格、适用人群 6 个维度帮你选对本地大模型方案。
vLLM vs Ollama:本地推理引擎与本地模型运行时怎么选(2026)
vLLM 是高吞吐推理引擎,Ollama 是开箱即用的本地模型运行时。一句话结论 + 决策树 + 成本对比:要生产级吞吐与并发选 vLLM,要个人本地快速跑起来选 Ollama。