事件专题 ·多源确认

DeepSeek 完全开源内部推理框架 DeepInfer

DeepSeek 宣布将内部推理框架 DeepInfer 完全开源,配套开源 deepseek-recipe 编码/解码组件。DeepInfer 支持分布式推理、投机解码、SWA Bounded Replay、结构化输出,兼容 NVIDIA 和华为昇腾平台。该框架已用于 DeepSeek V4.1 Flash 的大规模推理服务,官方 API 的处理逻辑也与开源组件保持一致。后续新模型的推理代码和优化将持续在该仓库发布。

当前结论

DeepSeek 把自家跑 V4.1 Flash 的推理框架 DeepInfer 开源了,支持英伟达和昇腾双平台,自建部署的朋友可以直接拿去用。

11 个信源87° AI 热度最后更新 2026/10/20 10:38:58

证据链

11 个信源
相关来源 5LMSYS Org (SGLang)
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。