请教 Mac studio 部署 ai，用 ollama 还是 lm studio

非技术人员用 ollama ，部署简单，常用的模型都有。而 LM 一般给技术人员去折腾的，模型量会比 ollama 多一些，模型的选择源多一些（直接去 Hugging Face 下载模型用）

我的建议是 lmstudio 。我这边 M4 Max 使用 lmstudio 部署 mlx 格式的 qwen-30b-a3b 能有 95t/s ，ollama 部署 qwen-30b-a3b 大概是 75t/s 。

我用 ollama ，简单，模型也比较丰富
不做微调之类的，主要学 MCP 和 Agent

mlx 格式优先，选 lm studio

我建议 API 。mac 性能太低，模型太小不实用，太大跑不动，ram 装得下并发也低，训练也跑不动。除了玩一下子没啥大用。

lm studio 不是更简单嘛。

在一些网络隔离的环境下，独立部署是非常有必要的。

性能太低，没有部署价值，api 或网页版很便宜

API 比电费便宜，除非想自己微调或者担心隐私问题没必要本地部署

用 LM Studio ，配合 MLX 和 DWQ 量化（最新的一个量化方法，质量很好）很不错，开 KV Cache 也方便，我拿 M2 Ultra 跑 Qwen3-30B-A3B-DWQ 的 4bit 版可以到 105token/s ，Qwen3-235B-A22B-DWQ 的 4bit 版本也能到 32token/s

ollama 省事

@Surechun 好滴 多谢

@ZiChun 试了试 确实如你所说

@fredweili 好滴

@G200 ollama 没有这个格式？

@icestraw 私密 私密

@heyjei 是的 太对了

@duvet 私密 私密

@shuimugan 好主意

@SakuraYuki 好的 多谢

@G200 ollama 能用这个格式不

@shuimugan 这么高！