
LM Studio
本地 LLM 的 GUI 首选——模型浏览器 + GGUF/MLX 推理 + OpenAI 兼容 API + Mac 原生优化
Mac / Windows 桌面本地 LLM 的 GUI 首选——上手最快、模型浏览最舒服、自带 OpenAI 兼容 API。批量服务 / 多用户场景用 vLLM;纯 CLI / 嵌入应用走 Ollama。
基于官方页面评估:模型浏览器 + GGUF/MLX 双引擎推理 + Headless 模式与 lms CLI
GUI 调参 / 模型比较体验本地 LLM 桌面端最佳
个人 / 评估免费、商用需咨询授权
无中文界面、模型下载依赖网络
Mac M 系列原生优化、桌面应用成熟
- 评分人
- AI 之家编辑部
- 最近复核
- 2026-10-19
- 下次复核
- 2027-04-17 (周期 180 天)
- 利益声明
- 本站不接软文、不卖排名
TL;DR
LM Studio 是 Windows / macOS / Linux 桌面应用,让你像浏览 App Store 一样发现、下载、运行本地大模型(GGUF / MLX 格式)。底层基于 llama.cpp + MLX,Mac M 系列原生优化。0.3+ 起新增 Headless 模式 + lms CLI,可在服务器跑 OpenAI 兼容 API(默认 :1234)。个人 / 评估完全免费,商用咨询。
适合:本地 LLM 入门 / 评估、Mac 用户、需要 GUI 调参 / 模型比较、想给 IDE / 应用接本地 OpenAI 兼容 endpoint 的开发者。不适合:多用户并发生产服务(用 vLLM)、嵌入式 / 边缘部署(用 llama.cpp)、纯 CLI 工作流(用 Ollama)。
LM Studio 核心能力
- 模型浏览器:内置 Hugging Face 检索,按 GGUF / MLX / 大小筛选、一键下载
- 聊天界面:System Prompt / temperature / top-p / context size 可视化调参
- 多模型并存 / 切换:同时加载多模型在不同会话中比较
- OpenAI 兼容 Local Server:
http://localhost:1234/v1,任何 SDK 即接即用 - Headless / CLI:
lms server start --port 1234,无 GUI 可跑 - PDF / 文档对话:内置基础 RAG,丢文件就能聊
- MLX 原生支持(Mac):M1+ 上比 GGUF + Metal 快 30–50%
- 持续批处理:Codersera 2026 测得 50–90 tok/s(消费级 GPU + 中等模型)
LM Studio 价格
- 个人 / 评估:免费,全功能可用
- 商用:邮件 / 官网联系 LM Studio 团队
模型本身免费(开源权重),LM Studio 不抽水任何 token 费用。
LM Studio 实测
亮点:
- 模型浏览器极舒服:搜「qwen3-coder」直接列出 GGUF + MLX 各 quant,标硬件兼容度
- 加载 7B Q4 模型 < 3 秒,生成 ~75 tok/s
- Local Server 开了 Cursor 直接接 baseURL → 本地代码补全零成本
- MLX 版同模型 ~110 tok/s,差距显著
- 多窗口加载 2 个模型并排测,调 prompt 直观
踩坑:
- 模型库依赖 Hugging Face,国内访问要镜像 / 代理
- GPU 显存吃满后会自动 offload 到 CPU,无提示就慢下来
- Headless 模式相对 Ollama 偏新,文档稍少
- 闭源应用(虽免费),不适合企业合规挂钩
- 中文 UI 可用但部分菜单仍英文
LM Studio 上手 5 分钟
- lmstudio.ai 下载(Mac / Windows / Linux)
- 打开 → Discover 标签 → 搜模型(如 qwen3-coder、deepseek-v3 GGUF/MLX)→ Download
- Chat 标签 → 选模型 → 调参聊天
- Local Server 标签 → Start Server → 默认端口 1234
- 在你的应用里:
baseURL = "http://localhost:1234/v1",API Key 任意 - Headless:
lms server start --port 1234
LM Studio 与同类对比
| 维度 | LM Studio | Ollama | Open WebUI | llama.cpp |
|---|---|---|---|---|
| 形态 | GUI + CLI | CLI Daemon | Docker UI | 二进制 |
| 模型浏览 | 内置 | CLI pull | 无 | 手动 |
| 参数调优 GUI | 部分 | |||
| OpenAI 兼容 API | :1234 | :11434 | ||
| MLX (Mac) | 0.19+ | – | – | |
| 多用户并发 | 弱 | 弱 | 中 | |
| 开源 | 闭源(免费) | MIT | MIT | MIT |
| 上手难度 | 极低 | 低 | 中 | 高 |
LM Studio 避坑清单
- 国内下模型走镜像:HF 直连慢 / 卡,配 HF_ENDPOINT=hf-mirror.com
- 显存爆 ≠ 报错:GPU 装不下会无声 offload 到 CPU,关注生成速度,必要时降 quant 或换小模型
- MLX 优先(Mac M 系列):能下 MLX 版就别下 GGUF,速度差距明显
- Local Server 暴露要谨慎:默认 0.0.0.0 + 无鉴权,对外开放前加反代 + Bearer
- 闭源合规要核:企业内部使用前查 license;商用必须联系官方
适合 / 不适合
- 本地 LLM 入门 / 评估
- Mac M 系列用户
- 想给 Cursor / Cline 接本地 OpenAI 兼容 endpoint
- 需要 GUI 调参 / 模型比较
- 多用户并发生产服务
- 嵌入式 / 边缘设备
- 强合规 / 必须开源审计
LM Studio 常见误区
- 误区一:以为「本地跑」就等于「不花钱」。 软件免费,但硬件是一次性大額支出。跑一个 30B 级别的模型需要的显存/统一内存,往往比一年订阅云端 API 还贵。算成本时请把机器折旧、电费和「显卡被占用后干不了别的活」一起算进去。
- 误区二:把 LM Studio 当生产推理服务。 它的定位是桌面端个人工具,不是 vLLM 那类服务端引擎。单用户交互式使用体验很好;多人并发、需要稳定 SLA 的场景请换服务端方案。
- 误区三:拿量化模型的效果去对比云端原版。 你本地跑的多是 GGUF 量化版(如 Q4_K_M),质量与原版有差距。「本地跑得动」与「本地跑得好」之间隔着一个量化档位,评估效果时要说清跑的是哪一档。
- 误区四:忽略它与 Ollama 的分工差异。 两者的核心能力高度重叠,差异在交互重心:LM Studio 有完整的 GUI(模型浏览、调参、聊天),Ollama 更偏 daemon + CLI。要图形界面选 LM Studio,要脚本化 / 当后端服务选 Ollama。 两者可以共存,共用同一批 GGUF 文件的情况也很常见。
- 误区五:以为 OpenAI 兼容端点等于「所有客户端都能无缝接」。 兼容的是接口形状,不是能力集合。函数调用、结构化输出、长上下文、视觉输入这几项在不同客户端与不同模型上支持度差异很大——接之前先确认你依赖的那一项真的能用。
LM Studio 更新说明
| 日期 | 变更 |
|---|---|
| 2026-10-19 | 新增「常见误区」「更新说明」两节;复核既有事实与链接 |
相关阅读
Long-tail quick picks
长尾检索速查:下面三项对应「LM Studio 开源版 / 免费版 / 国内可用」等搜索意图,方便直接跳转。
Open-source alternatives
Free tier
China availability
相关替代品:
来源
- LM Studio 官网 https://lmstudio.ai/
- Codersera — LM Studio Complete Guide 2026 https://codersera.com/blog/lm-studio-complete-guide-2026/
- Codersera — Ollama vs LM Studio vs vLLM vs llama.cpp vs MLX 2026 https://codersera.com/blog/ollama-vs-lm-studio-vs-vllm-vs-llama-cpp-vs-mlx-2026/
| 计划 | 价格 | 限制 | 国内支付 | 备注 |
|---|---|---|---|---|
| 个人 / 评估 | 免费 | — | — | |
| 商用 | 联系咨询 | — | — |
- · 本地 LLM 入门 / 评估
- · Mac 用户
- · 需要 GUI 调参 / 模型比较
- · 想给 IDE / 应用接本地 OpenAI 兼容 endpoint 的开发者
- · 多用户并发生产服务(用 vLLM)
- · 嵌入式 / 边缘部署(用 llama.cpp)
- · 纯 CLI 工作流(用 Ollama)
和 Ollama 怎么选?
LM Studio 是 GUI 优先(模型浏览器 + 参数面板 + 聊天界面),适合个人 / 评估 / 上手。Ollama 是 CLI / Daemon 优先(后台跑 + REST API),适合应用嵌入 / 脚本调用。两者都基于 llama.cpp,在 Mac M 系列上都已用 MLX。
支持 MLX 吗?
支持。Mac M1+ 上可加载 MLX 格式模型,速度比 GGUF + Metal 快 30–50%。模型搜索时筛选 MLX 即可。
OpenAI 兼容 API 怎么用?
开 Local Server → 默认端口 1234 → `http://localhost:1234/v1`。任何 OpenAI SDK 把 baseURL 改这个就能跑本地模型,零代码改动。
Headless 模式?
0.3+ 起支持 `lms server start` CLI 启动后台服务,无 GUI 即可跑 OpenAI 兼容 API,适合服务器 / SSH 场景。
同任务替代方案
LobeChat
现代设计的开源 AI 聊天框架——Web + 桌面双形态、83k+ stars、多模型 + 知识库 + 插件市场
4.8 分
Open WebUI
自托管的 ChatGPT 替代:Ollama / OpenAI 兼容、多用户、RAG、156k GitHub stars(2026-10-20 核对)
4.6 分
Cherry Studio
全能 AI 客户端:多模型聚合 + 本地知识库 + 300+ 助手模板,跨平台桌面应用
4.6 分
vLLM
Apache-2.0 开源高吞吐推理引擎——PagedAttention 显存分页 + 连续批处理,一行命令起 OpenAI 兼容服务,吃满 GPU
4.4 分
相关横评
LM Studio vs Msty:本地大模型桌面工具怎么选?2026 对比
LM Studio vs Msty 2026 选型对比:模型浏览器 + OpenAI 兼容 API 的本地推理工具 vs 多模型并行 + Knowledge Stack 的桌面 AI 工作站。从定位、易用性、模型发现、API 服务、价格和适合人群 6 个维度帮你选对本地 LLM 桌面工具。
2026-10-27
Ollama vs LM Studio:本地跑大模型,命令行派 vs 图形派(2026 选型)
Ollama 和 LM Studio 都能在本机跑开源大模型。一句话结论 + 决策树 + 成本对比:要命令行、要被其他工具调用选 Ollama,要图形界面、要可视化调参选 LM Studio。
2026-10-11
Ollama v0.40.11:本地语音合成走 OpenAI 兼容端点,/v1/audio/speech 可直接替换云端 TTS
Ollama v0.40.11 于 2026-10-24 转正:macOS 上边生成边播放语音,应用可走 OpenAI 兼容的 /v1/audio/speech 端点;d3 决策模型家族含 2B/4B/9B/27B。
Ollama v0.40.8 / v0.40.9:Flint 编码模型落地,v0.40.9 又加上语音合成与 d3 决策模型
Ollama v0.40.8/0.40.9 于 2026-10-21~22 连发:引入 Recursive 的 Flint 编码模型(40B MoE、262K 上下文),v0.40.9 新增语音合成与 d3 决策模型家族。
Ollama v0.40.7 转正:Perplexity 的 27B 决策模型入库,Responses 跨模型对话不再失败
Ollama v0.40.7 已转正 stable:新增 Perplexity 27B 决策模型 pplx-decider,修复 Responses 跨 thinking 模型切换失败,ollama show 新增 renderer 字段。
Meta 开放权重 Muse Spark Open:816B 总参 / 42B 激活、1M 上下文、原生多模态,两台北 M5 Ultra Mac Studio 可跑
Meta 于 2026-10-15 发布 Muse Spark Open:816B 总参 / 42B 激活、1M 上下文、原生多模态,Muse 许可开放权重,两台北 M5 Ultra Mac Studio 可在本地跑。