主要来源arXiv cs.AI
查看原文事件专题 ·多源确认
GC-MoE 用 CUDA Green Contexts 加速 MoE 推理,DeepSeek 与 GLM 解码提速超 10%
GC-MoE 是一个开源 FP8/FP4 MoE 推理算子,支持 NVIDIA Hopper 和 Blackwell GPU,利用 CUDA Green Contexts 把设备拆成通信与计算两个独立分区。在 8 张 H20 上,DeepSeek-V4.1-Flash 解码平均加速 1.188 倍,峰值达 1.353 倍。在 8 张 B300 上,GLM-5.2 和 DeepSeek-V4.1-Flash 平均加速 1.106 倍,在全部 54 个测量点上超过 DeepGEMM 的 Mega MoE。通信分区在 B300 上仅占用 148 个 SM 中的 20 个。
当前结论
给搞 MoE 推理优化的人看的新算子,8 卡 H20 上跑 DeepSeek 解码快了近 20%,还开源了,可以直接对比 Mega MoE 试一下。
11 个信源52° AI 热度最后更新 2026/11/3 03:04:04
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。