ISER-MoE 通过 NVLink 交换机复制热点专家，提升 MoE 推理吞吐
MoE 推理总被几个热点专家拖慢，这个方案直接借 NVLink 交换机做复制，DeepSeek-V4-Pro 实测数学任务吞吐涨了 17.4%。
#ISER-MoE
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「ISER-MoE」标签的资讯、产品与论文，按刊登时间排，新的在上。
11月9日
MoE 推理总被几个热点专家拖慢，这个方案直接借 NVLink 交换机做复制，DeepSeek-V4-Pro 实测数学任务吞吐涨了 17.4%。