模型71°

DeepSeek DeepInfer 开源:单集群日处理 155 万亿 token,毛利率约 80%

[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

精选理由

DeepSeek 把自家生产级推理系统开源了,一天 155 万亿 token、80% 毛利,做推理服务的都该看看这套架构。

DeepSeek 发布开源推理系统 DeepInfer,单集群每日处理 155 万亿 token,按当前定价折算日收入 2200 万美元,毛利率约 80%,硬件投入预计 81 天回本。该系统已在生产环境运行 DeepSeek 自有模型服务,并将推理优化代码全部开源。对其他推理服务商而言,这套系统的公开意味着可以用相近成本复现 DeepSeek 的服务效率。

原文 · Latent Space (swyx)

[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

An open source “bomb” drops from China

DeepSeek DeepInfer 开源:单集群日处理 155 万亿 token,毛利率约 80%|AI热报