Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
Apple 教你用几台 Mac Studio 加 RDMA 组成本地推理集群，跑单机放不下的大模型，教程可以直接照着做。
Apple 机器学习研究团队发布教程，展示用 MLX 框架在多台 Mac Studio 之间做分布式 LLM 推理。方法通过 RDMA 连接多台 Mac，把大模型分层切分到不同机器上运行，适合单机显存放不下的模型。文中给出具体配置流程，目标是让本地 Mac 集群也能跑推理。
Meta 开源了 816B 的 Muse Spark Open，两台 512GB 的 Mac Studio 加量化就能本地跑，生成速度约 25 Token/s，喜欢本地部署的可以看看这套方案。
Meta 和苹果居然联手了，两台顶配 Mac Studio 就能本地跑 8160 亿参数的开源模型，程序员可以关注这套 MLX 方案。
Meta 放出 816B 的开源权重模型，Apple 帮忙适配 MLX，两台 Mac Studio 就能跑，工具调用测试拿了 89.2 分，做编程智能体的可以看看。
Meta 把 Muse Spark Open 接进了 Cline，还和 Apple 一起做了 MLX 优化，M5 Ultra 的 Mac Studio 本地就能跑编程智能体。
Meta 这次放了个 816B 的开源模型，基于苹果 MLX 优化，两台 Mac Studio 就能跑起来，分数还能对标 K3 和 GLM-5.3，本地部署玩家可以看看。
Meta 出了个开源模型 Muse Spark，还拉上 Apple 用 MLX 框架优化，两台 Mac Studio 就能跑，本地部署党可以看看。
