GB200是NVIDIA推出的新一代AI计算平台,专为大规模人工智能训练和推理任务设计。根据近期报道,NVIDIA已开始部署GB200相关的硬件系统,包括GB300和Vera Rubin NVL72等变体。
GB200 近期进展
9月25日,NVIDIA与鸿海展示了机器人组装GB300母线的成果,成功率超过95%。(英伟达与鸿海展示机器人组装GB300母线,成功率超 95%)
Cognition成为首个NVIDIA Vera Rubin客户,完成了NVIDIA Vera Rubin NVL72基准测试。(Cognition成首个NVIDIA Vera Rubin客户)
NVIDIA Vera Rubin NVL72已上线CoreWeave平台,被用于运行Devin等AI应用。(NVIDIA Vera Rubin NVL72 上线 CoreWeave,Cognition 用它跑 Devin)
马斯克宣布xAI将在年底前部署110万张GB300,展示了GB200系列芯片的规模化应用前景。(马斯克晒 xAI 算力家底:年底前部署 110 万张 GB300)
当前焦点与观察点
NVIDIA的GB200系列芯片代表了AI硬件的最新发展方向,特别是在大模型训练和推理领域。随着AI模型参数量的不断增长,对计算能力的需求也呈指数级上升,这类高性能计算平台正好满足了这一需求。
值得注意的是,inferact开源了Kimi K3 TPU megakernel,单核跑出709 tokens/s的性能,这表明除了NVIDIA的GB200系列外,其他厂商也在加速AI硬件的研发,市场竞争日趋激烈。
OpenAI发布的自研AI推理芯片Jalapeno完整架构,以及硬件感知的FP4 FlashAttention-4等技术的出现,都表明AI硬件领域正在经历快速创新,这类高端计算平台需要在技术创新和性能提升上保持领先。