DeepSeek 开源推理框架 DeepInfer，解释自部署为何未必更便宜

DeepSeek 开源了支撑官方 API 服务的推理框架 DeepInfer。该框架支持多卡并行分担计算、先生成候选词再批量验证以加快输出，并优化请求调度减少机器空闲。DeepInfer 目前主要支持 DeepSeek-V4.1-Flash，同时兼容英伟达 SM100 和华为昇腾 950。缓存管理和跨副本负载均衡尚未完整开源，因此照搬代码仍难以完全复现官方 API 的低成本。