论文13:06
ConMoE：无需微调的MoE压缩框架，通过原型重分配保留专家池MoE模型部署内存瓶颈的团队终于有了无需微调的压缩方案——ConMoE通过原型重分配直接减少专家数量，做模型推理优化的开发者可以试试这个即插即用的方法。
#无需微调
共 1 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「无需微调」标签的资讯、产品与论文，按刊登时间排，新的在上。
5月29日
MoE模型部署内存瓶颈的团队终于有了无需微调的压缩方案——ConMoE通过原型重分配直接减少专家数量，做模型推理优化的开发者可以试试这个即插即用的方法。