#CE-MoE

共 1 条 · 7 天 0 条 · 30 天 0 条

MoE 1 专家混合 1 模型训练 1

信息流里打上「CE-MoE」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月31日

论文73°11:45

通信高效专家混合模型训练方法

新方法让31.5B参数模型训练省1/3时间，性能还更好，适合大规模MoE模型训练。

#MoE #CE-MoE #专家混合 #模型训练

arXiv cs.AI@Simeng Sun, Roger Waleffe原文