DeepSeek 开源内部推理框架 DeepInfer

DeepSeek 将内部推理框架 DeepInfer 开源，DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务即基于该框架实现。DeepInfer 集成高性能算子，支持分布式推理、推测解码、SWA Bounded Replay 和结构化输出。框架同时兼容英伟达与华为昇腾平台。配套开源的 deepseek-recipe 编解码组件与 DeepSeek 官方 API 处理逻辑完全对齐。