论文Agent 与开发者15:17Sonar-MoE:在反向传播中更新专家参数,降低 MoE 训练显存论文讲了个省显存的训练技巧:专家参数反向传播时就地更新,微调 OLMoE 这类 MoE 模型显存省约两成,速度还更快。#Sonar-MoE#MoE#OLMoE-1B-7B#微调aarXiv cs.LG@Avni Mittal 等 10 人原文稍后读已读值得跟进有用关注 Sonar-MoE