论文Agent 与开发者精选00:42腾讯论文提出 RAMPr:剪 MoE 模型内弱神经元,保留 91%-98% 性能搞 MoE 部署的工程师可以看看这篇。腾讯的方法不是删整个专家,而是按 RAMP 分数剪专家内部的弱神经元,剪掉一半后显存省 36%-43%,吞吐还涨 17%-39%,比整专家剪枝更能保住数学和代码能力。#Mixture of Experts#腾讯#模型压缩#RAMPrrohanpaul_ai@rohanpaul_ai原文稍后读已读值得跟进有用关注 Mixture of Experts