事件专题 ·多源确认

vLLM 性能追平 DeepSeek 自研推理引擎 DeepInfer

vLLM 团队宣布其推理性能已追平 DeepInfer——DeepSeek 为 DeepSeek-V4.1-Flash 自研的推理引擎,测试覆盖 batch size 8 到 256 的 decode 配置。对比条件上,vLLM 用 DEP32 达到了 DeepInfer EP64DP64 的水平。DeepInfer 最初就是基于 vLLM 构建,vLLM 通过集成 DeepSeek 的开源内核并优化 prefill 和 decode 阶段实现追平。

当前结论

vLLM 把 DeepSeek 自家引擎 DeepInfer 的性能追平了,还吸收了它的开源内核,跑 DeepSeek-V4.1-Flash 的可以关注下。

3 个信源63° AI 热度最后更新 2026/10/24 17:59:51

证据链

3 个信源
相关来源 1arXiv: DeepSeek
查看原文
相关来源 2掘金本周最热
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。