模型多源确认精选78°

英伟达展示 DSX MaxLPS 技术,AI 工厂每兆瓦 token 吞吐量最高提升 40%

精选理由

英伟达新出的 DSX MaxLPS 技术,能让 AI 工厂在相同电力下多处理 40% 的 token,对数据中心很实用。

英伟达在 AI 基础设施峰会上展示面向 AI 工厂的 DSX MaxLPS 功耗调度系统,该系统可使数据中心每兆瓦 token 吞吐量最高提升 40%。

正文

该指标将功耗纳入计算,更适合衡量电力受限条件下的产出能力。技术已由 Emerald AI 集成至 Conductor 平台,用于电网条件下的负载编排。

Lambda 等云服务商测试后,在固定功率预算下取得 24% 的 token 吞吐量提升。在与 16 个节点满功率运行相同的功率预算下,19 个节点的集群吞吐量从约每秒 400 万个 token 提升至每秒 500 万个,增幅为 24%,每瓦性能提升 23%。

原文 · IT之家

IT之家 9 月 17 日消息,科技媒体 Wccftech 昨日(9 月 16 日)发布博文,报道称在 AI 基础设施峰会上,英伟达展示了面向 AI 工厂的 DSX MaxLPS 功耗调度系统, 每兆瓦 token 吞吐量最高提升 40%。 IT之家注:每兆瓦 token 吞吐量是指数据中心每消耗 1 MW 电力时,AI 系统每秒能够生成或处理多少个 token。该指标把功耗纳入计算,因此更适合衡量 AI 数据中心在电力受限条件下的产出能力。 英伟达 DSX MaxLPS 技术已由 Emerald AI 集成至 Conductor 平台,用于电网条件下的数据中心负载编排。 Conductor AI 平台中的 DSX Flex 可依据电网状态动态调整数据中心用电需求。平台已接收 200 次电网状态信号,相关操作均未要求用户干预。Lambda 等云服务商测试后,在固定功率预算下取得 24% 的 token 吞吐量提升。 Lambda 是一家 GPU 云服务商,客户数量超过 10,000 家。测试集群包含 5 个机架和 19 个节点。在与 16 个节点满功率运行相同的功率预算下,19 个节点的集群吞吐量从约每秒 400 万个 token 提升至每秒 500 万个,增幅为 24%,每瓦性能提升 23%。 NVIDIA 还披露,Vera Rubin 和 Groq 3 LPX 机架在相同站点功耗范围内,GPU 数量最多可增加 40%。在不新增电力线路的条件下,token 吞吐量最多可提升 35%。在 100K 上下文、Qwen 3.8 27B 工作负载中,Groq 3 LPX 达到每位用户每秒 2,529 个输出 token。 多家人工智能企业已参与早期测试 Vera CPU,相关结果显示性能最高提升 1.9 倍、吞吐量提升 73%、查询任务吞吐量提升 3.3 倍。 Perplexity 测得 SPACE 安全沙箱启动速度提升 1.9 倍,DeepInfra 测得编排步骤延迟速度提升 2.2 倍。 Redpanda 的测试显示,Vera CPU 相比其他 CPU 延迟降低 5.5 倍,吞吐量提升 73%。Starburst 测得查询吞吐量提升 3 倍,Kinetica 测得分析查询性能提升 2.7 倍。

产业坐标与信源核验

本条情报归属 AITOP「模型」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:NVIDIA、token、AI 工厂、英伟达,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「IT之家」,经 AITOP 多维评分管线结构化提炼。截至目前,全网已有 11 家独立信源对该事件进行交叉印证与跟进报道(含 NVIDIA AI、shao__meng、techcrunch 等),属于近期高关注度行业信号。