苹果 Minions 研究系统:聚合闲置 Mac GPU 组成虚拟 GPU 云
苹果团队写了个系统,把办公室里闲着的 Mac GPU 拼成算力池,10 小时的推理任务几分钟就跑起来,论文思路挺值得工程师借鉴。
IT之家原文
苹果团队写了个系统,把办公室里闲着的 Mac GPU 拼成算力池,10 小时的推理任务几分钟就跑起来,论文思路挺值得工程师借鉴。
卫星影像公司 Xoople 处理整颗行星的 PB 级数据,他们没自建计算层,直接用 Anyscale 上的 Ray,讲了选型原因。
XPower用12颗小芯片组卡,跑400B到1.6TB参数的模型还能把token成本压到最低,想省钱搞推理可以看看。
分子动力学模拟的串行瓶颈终于被打破——LSD 用推测采样实现 3-9 倍加速,做计算化学或材料模拟的团队可以直接尝试,无需修改现有模型。
联邦学习领域终于有了形式化的计算模型——这篇论文用类型化张量语言统一了分散的协议,做联邦学习系统设计和理论研究的团队值得细读,能帮你理清通信与共享状态的数学本质。