Meta 开源了 816B 的 Muse Spark Open,两台 512GB 的 Mac Studio 加量化就能本地跑,生成速度约 25 Token/s,喜欢本地部署的可以看看这套方案。
#MLX
Meta 和苹果居然联手了,两台顶配 Mac Studio 就能本地跑 8160 亿参数的开源模型,程序员可以关注这套 MLX 方案。
Meta 放出 816B 的开源权重模型,Apple 帮忙适配 MLX,两台 Mac Studio 就能跑,工具调用测试拿了 89.2 分,做编程智能体的可以看看。
Meta 把 Muse Spark Open 接进了 Cline,还和 Apple 一起做了 MLX 优化,M5 Ultra 的 Mac Studio 本地就能跑编程智能体。
Meta 这次放了个 816B 的开源模型,基于苹果 MLX 优化,两台 Mac Studio 就能跑起来,分数还能对标 K3 和 GLM-5.3,本地部署玩家可以看看。
Meta 出了个开源模型 Muse Spark,还拉上 Apple 用 MLX 框架优化,两台 Mac Studio 就能跑,本地部署党可以看看。
Meta 这个模型专门针对本地硬件做了优化,两台 Mac Studio 就能跑,还支持 llama.cpp、vLLM 等一堆引擎,想本地部署的可以看看。
教你把 Qwen3.8-27B 装进 Mac 本地跑代码,内存要多少、怎么配引擎、测试怎么兜底都写清楚了,还能当 Claude Code 的免费备胎。
Mac 本地跑模型试试这个 Zig 写的 MLX-Serve,免 Python 还带菜单栏,配 Qwen 3 跑 Pagoda 测试比之前都强。
想在Mac上本地跑大模型、不用联网?这个工具能从Hugging Face下模型,用MLX推理,还直接开个OpenAI API,当本地服务使。
对于在 Apple Silicon 上跑本地模型的开发者,oMLX 支持 HF 缓存目录意味着省去模型重复下载和路径配置的麻烦,建议直接更新体验。
苹果端侧 AI 架构迎来重大更新,CoreAI 在小模型推理上显著提速,做本地 AI 应用或模型部署的开发者值得关注,尤其是 M4 Mac 用户可以直接感受到更快的响应。
Mac 开发者终于能在本地跑最新大模型了,DiffusionGemma 和 North Mini Code 都支持 Day-0 运行,做本地 AI 实验的可以直接装来玩。
Ollama 让 Gemma 4-12B 的本地部署门槛降到最低,做模型实验或本地 Agent 开发的团队可以直接跑起来,省去繁琐配置。
macOS 用户终于有了一个本地化、轻量的 AI 入口,无需联网即可在菜单栏调用模型,隐私敏感或离线场景下的开发者值得一试。
音乐创作者和 AI 爱好者终于能在本地 Mac 上跑音乐模型了,LoRA 微调不到 1 小时,适合快速出 demo 或训练个人风格,建议有 Mac 的开发者直接试。
MLX打通CUDA后,做本地AI推理的开发者终于可以一套代码跑通Mac和NVIDIA显卡,省去PyTorch兼容折腾,建议关注这个框架的跨平台潜力。