这个 2 万 Star 的 Mac 大模型服务器，把 Codex 的模型塞回本机了。

                    <div class="detail-content-box has-mask large">
                        <h1 style=&#039;font-family: -apple-system-font, BlinkMacSystemFont, "Segoe UI", "Microsoft YaHei", Arial, sans-serif;font-style: normal;font-variant-ligatures: normal;font-variant-caps: normal;orphans: 2;text-align: start;text-indent: 0px;text-transform: none;widows: 2;word-spacing: 0px;-webkit-text-stroke-width: 0px;white-space: normal;text-decoration-thickness: initial;text-decoration-style: initial;text-decoration-color: initial;margin: 0px 0px 18px;font-size: 32px;line-height: 1.35;font-weight: 800;letter-spacing: -0.5px;color: rgb(17, 17, 17);&#039; data-pm-slice="0 0 []"><span leaf=""><br></span></h1>

06
安装很短，硬件门槛一点都不短

最简单的安装方式，是去 Releases 下载 DMG，拖进 Applications。

喜欢 Homebrew 的话，三行就能起服务：

brew tap jundot/omlx https://github.com/jundot/omlx brew install jundot/omlx/omlx omlx start

需要注意的是，oMLX 的 App 面向 Apple Silicon 的 Mac，要求 macOS 15 或更高版本。Intel Mac、Windows 用户先别兴奋。

统一内存还是那条最硬的天花板。下载器能帮你找模型，不能把 16GB 变成 64GB。模型权重、KV 缓存和系统都要抢同一池内存，大模型还会吃掉大量 SSD 空间。

工具调用也依赖模型的聊天模板支持 tools 参数。服务端接口兼容，不代表随便找个模型就会稳定调工具。

另外，本文截稿时 GitHub 的 latest 是 v0.6.3rc2，仍然是发布候选版。项目更新很猛，拿工作主力机部署前，备份配置和模型目录不会吃亏。

这不是给所有人的 Ollama 替代品

oMLX 的边界特别清楚。

它不追求 Windows、Linux、Mac 全平台通吃，而是盯着 Apple Silicon，把 MLX、本地 API、多模型调度、两级缓存和 macOS 菜单栏揉成一套。

如果你只有一台 8GB 或 16GB Mac，只想偶尔和小模型聊两句，现成工具已经很多，没必要专门养一套服务器。

但如果你手上是一台大内存 Mac，想让 Codex、OpenCode、知识库和自动化脚本共用本地模型，这个项目确实把麻烦收拾得挺干净。

以前买大内存 Mac，是怕不够用。

现在终于有人认真研究，怎么把它用满了。

开源地址

https://github.com/jundot/omlx

发布页：https://github.com/jundot/omlx/releases

点击下方卡片，关注拾码备忘录

带你解锁更多 GitHub 上有意思、能落地的开源项目。