#NVFP4量化

共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「NVFP4量化」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月21日
12 张二手英伟达 V100:律师自建 AI 集群跑 DeepSeek,最高每秒 184 个词元

一位律师花 9,450 美元收了 12 张二手 V100,硬是把 DeepSeek-V4.1-Flash 跑到每秒 184 个词元,速度比 4 台 DGX Spark 还快、价格只要一半。文章里有完整的并行结构和吞吐数据,想省钱自建本地推理的开发者值得照抄这套配置。

IT之家原文