DeepSeek V4.1 Flash 在 GB300 NVL72 上推理速度提升至 1.5 倍
DeepSeek V4.1 Flash 在 GB300 上一个月内单智能体速度从 596 涨到 848 tok/s，文章拆了 vLLM、FlashInfer 等具体优化手段，做部署的可以看看
Artificial Analysis 的 AA-AgentPerf 基准显示，DeepSeek V4.1 Flash 在 NVIDIA GB300 NVL72 上过去一个月速度提升明显：单智能体达到 848 tok/s，此前为 596 tok/s（1.42 倍）。单 GPU 吞吐量约为原来的 1.6 倍，每个智能体约 80 tok/s。提升来自新版 vLLM、DeepSeek V4.1 专用内核、FlashInfer 自动调优、更完整的 CUDA graph 覆盖以及调优后的投机解码。NVIDIA 更新的 Dynamo + vLLM 方案还把 prefill 和 decode 放在同一批 GPU 上运行。
DeepSeek V4.1 Flash speeds on GB300 NVL72 have increased by up to 1.5x tok/s per agent over the past month on AA-AgentPerf, our benchmark of datacenter systems running realistic agentic coding workloads
This improvement comes from a newer vLLM version, new vLLM kernels for DeepSeek V4.1 on GB300, FlashInfer autotuning, fuller CUDA graph coverage, tuned speculative decoding, and running prefill and decode on the same GPUs in NVIDIA’s updated Dynamo + vLLM setup
➤ Faster speeds: 848 tok/s for a single agent, up from 596 (1.42x)
➤ Higher throughput: ~1.6x the throughput per GPU at ~80 tok/s per agent
