行业17:42
AMD 联合 FuriosaAI、MangoBoost 打造异构 AI 计算参考集群AMD 拉上韩国的 FuriosaAI 和 MangoBoost,要把 CPU、GPU、NPU、DPU 拼进一个集群,看算力怎么搭配更省
IT之家原文
AMD 拉上韩国的 FuriosaAI 和 MangoBoost,要把 CPU、GPU、NPU、DPU 拼进一个集群,看算力怎么搭配更省
这个论文研究了一种叫 SQD 的方法,专门针对子二次注意力模型,能显著提升在异构系统上的推理效率,比单纯用 GPU 的方法好很多。
高通把做AI软件基建的Modular收编了,Mojo和MAX继续运营,Chris Lattner直接负责AI软件,搞异构算力部署的可以关注下。
AMD 和韩国政府联手搞 AI 研究中心,要整合自家 CPU、GPU 和韩国本土 NPU 做异构计算,还搭上人才培养和具身智能,挺实在的产业合作。
NVIDIA 和 d-Matrix 搞了个混合算力方案,GPU 负责预填充、专用芯片负责解码,推理 Token 生成速度翻了 10 倍。不是单纯的拼硬件,是真正分工优化。