06安装很短,硬件门槛一点都不短 最简单的安装方式,是去 Releases 下载 DMG,拖进 Applications。 喜欢 Homebrew 的话,三行就能起服务: brew t
最简单的安装方式,是去 Releases 下载 DMG,拖进 Applications。
喜欢 Homebrew 的话,三行就能起服务:
brew tap jundot/omlx https://github.com/jundot/omlx brew install jundot/omlx/omlx omlx start
需要注意的是,oMLX 的 App 面向 Apple Silicon 的 Mac,要求 macOS 15 或更高版本。Intel Mac、Windows 用户先别兴奋。
统一内存还是那条最硬的天花板。下载器能帮你找模型,不能把 16GB 变成 64GB。模型权重、KV 缓存和系统都要抢同一池内存,大模型还会吃掉大量 SSD 空间。
工具调用也依赖模型的聊天模板支持 tools 参数。服务端接口兼容,不代表随便找个模型就会稳定调工具。
另外,本文截稿时 GitHub 的 latest 是 v0.6.3rc2,仍然是发布候选版。项目更新很猛,拿工作主力机部署前,备份配置和模型目录不会吃亏。
oMLX 的边界特别清楚。
它不追求 Windows、Linux、Mac 全平台通吃,而是盯着 Apple Silicon,把 MLX、本地 API、多模型调度、两级缓存和 macOS 菜单栏揉成一套。
如果你只有一台 8GB 或 16GB Mac,只想偶尔和小模型聊两句,现成工具已经很多,没必要专门养一套服务器。
但如果你手上是一台大内存 Mac,想让 Codex、OpenCode、知识库和自动化脚本共用本地模型,这个项目确实把麻烦收拾得挺干净。
以前买大内存 Mac,是怕不够用。
现在终于有人认真研究,怎么把它用满了。
开源地址
https://github.com/jundot/omlx
发布页:https://github.com/jundot/omlx/releases
点击下方卡片,关注拾码备忘录
带你解锁更多 GitHub 上有意思、能落地的开源项目。
免费获取企业 AI 成熟度诊断报告,发现转型机会

关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断