DeepSeek 开源内部推理框架 DeepInfer

DeepSeek 把自家跑 V4.1 Flash 的推理框架 DeepInfer 开源了，支持英伟达和昇腾双平台，自建部署的朋友可以直接拿去用。

Teortaxes@teortaxesTex11 个信源在谈原文

DeepSeek 把自家线上服务在用的推理引擎直接开源了，还能跑华为芯片，部署开源模型的工程师可以看看。

kimmonismus@kimmonismus11 个信源在谈原文

DeepSeek 把自家的推理引擎 DeepInfer 开源了，还是基于 vLLM 做的，做推理部署的同学可以看看它有什么新思路。

官方账号vLLM@vllm_project原文

DeepSeek 把自己生产环境在用的推理加速架构直接开源了，DeepInfer 支持 N 卡和昇腾卡，自建服务卡顿的可以看看，还有个格式转换小工具 deepseek-recipe。

Gorden Sun@Gorden_Sun3 个信源在谈原文

美国政府不让机构用 DeepSeek，外交部毛宁回应说反对泛化国家安全概念，这事对关注中美 AI 竞争的人挺关键。