事件专题 ·多源确认

DeepSeek V4.1 Flash 在 NVIDIA Vera Rubin NVL72 上的首批推理结果公布

vLLM 项目发布了 DeepSeek V4.1 Flash 在 NVIDIA Vera Rubin NVL72 上的首批推理测试结果,运行环境为 Dynamo + vLLM,基准来自 SemiAnalysis 的 AgentX。与 GB300 NVL72 相比,InferenceX 性能标尺显示:在每用户 400 tok/s 的速率下,单芯片总 token 吞吐量提升 63.4 倍;在 600 tok/s/用户速率下提升 93.3 倍。 这套结果的关键在于软件栈配合:NVIDIA Dynamo 负责推理服务调度,vLLM 承担引擎执行,两者组合在下一代 Rubin 平台上跑出了官方宣称的对比数据。测试选择了 400 和 600 tok/s 两个用户侧速率档位,这是智能体工作负载中常用的交互速度参考点,吞吐倍数按单芯片归一化计算。 对部署方来说,这组数字来自厂商生态链(NVIDIA + vLLM 项目 + SemiAnalysis)的公开测试,可作为评估下一代 NVL72 集群用于高并发智能体推理的参考。GB300 当前仍是主流旗舰部署平台,Vera Rubin 属于尚未大规模出货的下一代硬件,实际采购决策还需等待更多第三方复现数据。

当前结论

vLLM 官方放出了 Vera Rubin NVL72 上跑 DeepSeek V4.1 Flash 的首批数据,同样跑 Dynamo + vLLM,单芯片吞吐比 GB300 高 63 到 93 倍。做推理部署和算力采购的工程师应该看看这组对比。

6 个信源76° AI 热度最后更新 2026/11/16 17:01:09

证据链

6 个信源
相关来源 4The Information
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。