主要来源pandaily
查看原文事件专题 ·官方一手
摩尔线程开源 Megatron-MUSA-Titan，支持万亿参数 MoE 训练
摩尔线程开源了 Megatron-MUSA-Titan 训练框架，这是其用于在 10000 卡 GPU 集群上进行万亿参数 MoE 预训练的内部训练栈。该框架采用块级 FP8（blockwise FP8）技术，并支持 slime 和 miles 两个 RL 训练工具。这意味着开发者可以在摩尔线程国产 GPU 上复用 NVIDIA Megatron 生态的大规模训练方案。
当前结论
摩尔线程把自家万卡集群训万亿参数 MoE 的训练栈开源了，带块级 FP8，国产 GPU 上也能跑 Megatron 式大规模训练。
11 个信源57° AI 热度最后更新 2026/10/29 02:00:28
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。