微软完成 MAI-Base-2 预训练，2.8T 参数强于所有参测开源权重模型
微软完成 SOTA 基模 MAI-Base-2 预训练，性能强于所有参测开源权重模型
微软自研基模 MAI-Base-2 训完了，2.8T 总参数，算力效率是 DeepSeek-V4-Pro-Base 的 4~12 倍，还放出了训练细节。
微软宣布完成基础模型 MAI-Base-2 的预训练。该模型总参数 2.8T、活跃参数 80B，在 6,000 块 NVIDIA GB200 GPU 上训练 38 天，平均浮点算力利用率 21%、有效吞吐量 89%。微软称其性能强于所有参测的开源权重模型，预训练算力效率达到 DeepSeek-V4-Pro-Base 的 4~12 倍。微软同时表示已启动 MAI-Base-3 的准备工作。
微软完成 SOTA 基模 MAI-Base-2 预训练，性能强于所有参测开源权重模型
IT之家 10 月 16 日消息，Microsoft（微软）当地时间昨日宣布，其已经完成了新一代 SOTA 基础模型 MAI-Base-2 的预训练工作。这一模型 在性能方面强于所有参测开源权重模型 。 MAI-Base-2 总参数规模达 2.8T，活跃参数规模 80B，在 6,000 个 NVIDIA GB200 GPU 上历经 38 天训练而成。在整个训练过程中，该模型平均浮点算力利用率为 21%、有效吞吐量为 89%。 根据微软的说法， MAI-Base-2 的预训练算力效率是 DeepSeek-V4-Pro-Base 的 4~12 倍 。 微软表示，三项举措对于 MAI-Base-2 的成功预训练尤为重要：科学规模化、模型-基础设施协同设计、数据规模化。在完善 MAI-Base-2 的同时，这家科技巨头已启动 MAI-Base-3 的准备工作。 相关阅读： 《 在 OpenAI 擅长的领域打败 OpenAI：微软称自研模型仅凭对方 1/4 算力就超越同类产品 》 参考 https://microsoft.ai/news/frontier-pre-training-at-microsoft-ai/
