12 张二手英伟达 V100:律师自建 AI 集群跑 DeepSeek,最高每秒 184 个词元
一位律师花 9,450 美元收了 12 张二手 V100,硬是把 DeepSeek-V4.1-Flash 跑到每秒 184 个词元,速度比 4 台 DGX Spark 还快、价格只要一半。文章里有完整的并行结构和吞吐数据,想省钱自建本地推理的开发者值得照抄这套配置。
IT之家原文
一位律师花 9,450 美元收了 12 张二手 V100,硬是把 DeepSeek-V4.1-Flash 跑到每秒 184 个词元,速度比 4 台 DGX Spark 还快、价格只要一半。文章里有完整的并行结构和吞吐数据,想省钱自建本地推理的开发者值得照抄这套配置。