DeepSeek V4.1 Flash 在 GB300 NVL72 上推理速度提升至 1.5 倍

Artificial Analysis 的 AA-AgentPerf 基准显示，DeepSeek V4.1 Flash 在 NVIDIA GB300 NVL72 上过去一个月速度提升明显：单智能体达到 848 tok/s，此前为 596 tok/s（1.42 倍）。单 GPU 吞吐量约为原来的 1.6 倍，每个智能体约 80 tok/s。提升来自新版 vLLM、DeepSeek V4.1 专用内核、FlashInfer 自动调优、更完整的 CUDA graph 覆盖以及调优后的投机解码。NVIDIA 更新的 Dynamo + vLLM 方案还把 prefill 和 decode 放在同一批 GPU 上运行。