产品87°
DeepSeek 开源推理引擎 DeepInfer，支持华为芯片
精选理由
DeepSeek 把自家线上服务在用的推理引擎直接开源了，还能跑华为芯片，部署开源模型的工程师可以看看。
DeepSeek 将其生产服务所用的推理引擎 DeepInfer 开源。该引擎能让开放模型在大规模部署时保持运行效率，而仅靠模型权重本身无法降低推理成本。DeepInfer 除支持 Nvidia GPU 外，还可以运行在华为芯片上。
原文 · kimmonismus
Let’s go: DeepSeek just open-sourced DeepInfer, the inference engine behind its production services.
Sharing this makes open models efficient at scale is a big deal: model weights alone don’t make AI cheap to run. But *this* helps.
Also notable: it runs on Huawei chips, not just Nvidia.
