Meta 开放 Muse Spark Open 权重，双台 M5 Ultra Mac Studio 可本地运行 816B 模型
精选理由
Meta 开源了 816B 的 Muse Spark Open，两台 512GB 的 Mac Studio 加量化就能本地跑，生成速度约 25 Token/s，喜欢本地部署的可以看看这套方案。
Meta 开放了 Muse Spark Open 的模型权重，参数规模为 816B（42B 激活）的 MoE 架构，含 256 个路由专家，支持 1M 上下文和原生多模态，主打编程与长程 Agent 任务。通过 NVFP4 量化，816B 权重被压缩到约 537GB。部署方案用两台各 512GB 统一内存的 M5 Ultra Mac Studio，借助 MLX 分布式推理和 Thunderbolt RDMA 互联协同推理。官方数据显示双机张量并行生成速度约 25 Token/s，比流水线并行快约 59%。
原文 · AIGCLINK
Meta和苹果联手搞了个大的，Meta开放了Muse Spark Open权重，两台512GB M5 Ultra Mac Studio可本地跑
通过NVFP4量化将816B模型权重压缩至约537GB，再利用MLX分布式推理和Thunderbolt RDMA高速互联，让两台各配备512GB统一内存的M5 Ultra Mac Studio协同推理
官方给的数据，双机张量并行生成速度约25 Token/s，比双机流水线并行快约59%
速度不算快，不过两台桌面设备运行816B，具备了基本可交互的生成速度
Muse Spark Open的几个参数：816B/42B激活MoE（256个路由专家）、1M上下文、原生多模态，主攻编程、长程Agent任务
#MuseSparkOpen #meta最新开源模型
