寒武纪 Day 0 完成商汤 SenseNova Loop-9B 适配,打通 MLU 推理链路
商汤刚发的 SenseNova Loop-9B,寒武纪当天就适配完了,推理链路直接打通在 MLU 上。9B 参数靠循环计算做到 56 层深度,4bit 量化才 4.9GB,10GB 显存就能跑。做国产芯片私有化部署的可以看看,复用了 Qwen3-Next 算子,落地成本不低。
IT之家原文
商汤刚发的 SenseNova Loop-9B,寒武纪当天就适配完了,推理链路直接打通在 MLU 上。9B 参数靠循环计算做到 56 层深度,4bit 量化才 4.9GB,10GB 显存就能跑。做国产芯片私有化部署的可以看看,复用了 Qwen3-Next 算子,落地成本不低。