主要来源vLLM
查看原文事件专题 ·多源确认
RedHat_AI 为 NVIDIA Nemotron 3.5 Super VL 带来 FP8 与 DSpark 优化
RedHat_AI 团队将 FP8 量化和 DSpark 应用于 NVIDIA Nemotron 3.5 Super VL，配合 LLM Compressor、Speculators 和 vLLM 完成部署。在 4× H100 上的基准测试显示，FP8 主要提升高负载下的吞吐量，DSpark 则加快单用户流式输出速度。两项优化叠加后在 HumanEval、数学推理和 RAG 工作负载上的表现均优于单独使用任一方案。两个优化后的 checkpoint 已开放下载，支持 Hopper 架构 GPU。
当前结论
vLLM 官方转发的好东西：RedHat_AI 把 FP8 和 DSpark 一起用到 Nemotron 3.5 Super VL 上，4× H100 实测吞吐和流式速度都涨，checkpoint 还开源了。
11 个信源41° AI 热度最后更新 2026/10/15 15:54:33
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。