前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/08.25 · 09:01/5 MIN/编译自 拾码备忘录/10 阅读

这个 2 万 Star 的 Mac 大模型服务器,把 Codex 的模型塞回本机了。

06安装很短,硬件门槛一点都不短 最简单的安装方式,是去 Releases 下载 DMG,拖进 Applications。 喜欢 Homebrew 的话,三行就能起服务: brew t


06
安装很短,硬件门槛一点都不短

最简单的安装方式,是去 Releases 下载 DMG,拖进 Applications。

喜欢 Homebrew 的话,三行就能起服务:

brew tap jundot/omlx https://github.com/jundot/omlx brew install jundot/omlx/omlx omlx start

需要注意的是,oMLX 的 App 面向 Apple Silicon 的 Mac,要求 macOS 15 或更高版本。Intel Mac、Windows 用户先别兴奋。

统一内存还是那条最硬的天花板。下载器能帮你找模型,不能把 16GB 变成 64GB。模型权重、KV 缓存和系统都要抢同一池内存,大模型还会吃掉大量 SSD 空间。

工具调用也依赖模型的聊天模板支持 tools 参数。服务端接口兼容,不代表随便找个模型就会稳定调工具。

另外,本文截稿时 GitHub 的 latest 是 v0.6.3rc2,仍然是发布候选版。项目更新很猛,拿工作主力机部署前,备份配置和模型目录不会吃亏。

这不是给所有人的 Ollama 替代品

oMLX 的边界特别清楚。

它不追求 Windows、Linux、Mac 全平台通吃,而是盯着 Apple Silicon,把 MLX、本地 API、多模型调度、两级缓存和 macOS 菜单栏揉成一套。

如果你只有一台 8GB 或 16GB Mac,只想偶尔和小模型聊两句,现成工具已经很多,没必要专门养一套服务器。

但如果你手上是一台大内存 Mac,想让 Codex、OpenCode、知识库和自动化脚本共用本地模型,这个项目确实把麻烦收拾得挺干净。

以前买大内存 Mac,是怕不够用。

现在终于有人认真研究,怎么把它用满了。

开源地址

https://github.com/jundot/omlx

发布页:https://github.com/jundot/omlx/releases


点击下方卡片,关注拾码备忘录

带你解锁更多 GitHub 上有意思、能落地的开源项目。


标签:AI

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

拆解快手柯南 AI:Claude Agent SDK 之上的四条稳定性硬约束
置顶

拆解快手柯南 AI:Claude Agent SDK 之上的四条稳定性硬约束

用 Gradio Workflow 重建 AUTOMATIC1111:73 节点工程化答案
置顶

用 Gradio Workflow 重建 AUTOMATIC1111:73 节点工程化答案

前途科技前途科技
服务关于快讯技术商业报告
前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
IBM 开源 Granite PatchTST-FM-r2:可商用零样本第一的时序基础模型
置顶

IBM 开源 Granite PatchTST-FM-r2:可商用零样本第一的时序基础模型

//

24小时热榜

别被UMAP骗了:你看到的聚类可能是算法造假
TOP1

别被UMAP骗了:你看到的聚类可能是算法造假

拆解快手柯南 AI:Claude Agent SDK 之上的四条稳定性硬约束
TOP2

拆解快手柯南 AI:Claude Agent SDK 之上的四条稳定性硬约束

3

支撑10亿用户:OpenAI在线存储平台Habitat演进实录

1天前
支撑10亿用户:OpenAI在线存储平台Habitat演进实录
4

蚂蚁推出灵影系统,搭建AI眼镜与终端Agent基础设施

1天前
蚂蚁推出灵影系统,搭建AI眼镜与终端Agent基础设施
5

Kimi发布K2.8:百万上下文全员开放,性能逼近旗舰K3

1天前
Kimi发布K2.8:百万上下文全员开放,性能逼近旗舰K3
6

具身智能落地三问:告别单次演示,走向低成本规模复制

1天前
具身智能落地三问:告别单次演示,走向低成本规模复制
7

素人IP批量走红:靠情绪出圈,变现考验专业功底

1天前
8

外滩大会观察:AI加速落地产业,数据基础设施成突围核心

1天前
外滩大会观察:AI加速落地产业,数据基础设施成突围核心
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断