SambaNova 在 SC 大会展示 Air-Cooled Token Factory 推理方案
SambaNova 和 Intel 搞了个全风冷的推理方案,prefill 用 Intel GPU D-Series,decode 用 SambaRack SN50。不用上液冷就能跑快推理,老数据中心直接用,运维和采购的人值得看看。
SambaNova 在 Supercomputing 大会现场展示了 Air-Cooled Token Factory 推理系统。该方案采用分工架构:Intel GPU D-Series 负责 prefill 阶段,SambaRack SN50 负责 decode 阶段。
整条推理链路完全采用风冷散热,不需要液冷改造,可以直接部署在现有的数据中心机房里,省去了为高密度推理负载重建机房的成本。prefill 与 decode 分离的设计让两阶段各自用更匹配的硬件,提高 token 生成效率。
对已有数据中心的企业来说,这种"风冷+现有机房"的组合降低了高性能推理的部署门槛,与需要液冷和专用机房的主流 AI 机柜方案形成了差异化路线。
The Air-Cooled Token Factory is on the floor at @Supercomputing!
@intel GPU D-Series does prefill, SambaRack SN50 does decode, & it's all air-cooled. Fast inference in the data centers that already exist.
🔗 Full blog here: https://t.co/iKHN752ZDI
本条情报归属 AITOP「产品」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:SambaNova、Intel、推理部署、数据中心,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「SambaNova」(@SambaNovaAI),经 AITOP 多维评分管线结构化提炼。