论文Agent 与开发者12:18FastEEP:MoE 推理服务实例内弹性扩缩容系统MoE 服务扩容不用再整实例重启了,FastEEP 复用运行时状态,比 vLLM 方案快 4.5 到 11.7 倍,做推理部署的可以看看。#FastEEP#MoE#vLLM#推理优化aarXiv cs.LG@Yunfei Feng 等 6 人原文稍后读已读值得跟进有用关注 FastEEP