Will Depue 称中国四家实验室用 Blackwell 训练模型,但报告自认不能证明
这条值得细看,因为推文和报告原文差距很大:报告自己写着"不能证明",推文里却变成了"确凿证据"。做开源模型、用云算力的团队都会被这类指纹指控波及,先搞清证据边界比转发结论有用。
前 OpenAI 研究员 Will Depue 11 月 12 日发推,称找到"确凿取证证据":DeepSeek、月之暗面、MiniMax、蚂蚁用被禁运的 Blackwell 芯片训练了最新模型,涉及"超过 5 亿美元"的禁运芯片。他依据的是模型初始权重随机数排列中残留的硬件指纹。
但 X 用户 @MyDaebakCafe 逐条对比推文与报告原文后指出,报告自认的三条关键限制在推文里全部消失:指纹只证明权重"怎么创建","支持但不能证明" Blackwell 参与训练;"5 亿美元"是 Depue 自己标注的估算,报告承认依赖芯片效率、数据量等"无法证实"的假设且"没有把握";报告明确说证据"不能说明芯片在哪、是否违反出口管制",境外云租用按美国商务部现行规则完全合法。
网友 @dodecagonism 还指出,报告收到 11 月发布的 Kimi K3.1-Pro,却把 9 月发布、找不到任何指纹的 DeepSeek V4.1-Flash 排除在结果外。所谓"OpenAI 和 Anthropic 资深研究员独立验证"没有具名者,而 Depue 发布当天正在为自己的 Unemployment Labs 募资 500 万美元。截至 11 月 13 日,四家公司和英伟达均未回应。
Depue 称中国模型用了禁运芯片:报告自己承认的限制,推文里都没了 前 OpenAI 研究员 Will Depue 11 月 12 日发推,称找到“确凿的取证证据”:DeepSeek、月之暗面、MiniMax、蚂蚁“用被禁止出口中国的 Blackwell 芯片打造了最新模型”,涉及“超过 5 亿美元”的禁运芯片,“出口禁令显然在严重失效”。 问题在于,这些结论大多不在他自己的报告里。报告承认的几条关键限制,到了推文里全不见了。X 用户 Daebak 앤디( @MyDaebakCafe )当天发长帖逐条拆解,他说:“指望没人读过标题,华盛顿的舆论就是这么制造出来的。” 【指纹只管“第 0 步”】 Depue 找到的,是模型训练开始前那一刻留下的痕迹:训练前要先往模型里填一批随机数,不同芯片填出来的排列不一样,部分排列训练后还留着。 @MyDaebakCafe 也承认这个方法本身没问题,能看出生成初始权重的那台机器是 Blackwell。但他指出,报告原文写的是,这些痕迹只说明权重“怎么创建”,“支持、但不能证明” Blackwell 参与了训练。在他看来,初始化几秒钟就能做完,完全可以在租来的一台机器上生成,再搬到老一代芯片的集群上训练。 Depue 后来回应说,Kimi K3 的初始权重由几十个进程同时生成,更像是整个训练集群在启动,单独生成再搬运说不通。这是他的推断,报告里仍然写着“不能证明”。 【“5 亿美元”不是指纹算出来的】 @MyDaebakCafe 的第二个要点是,几千张卡、5 亿美元这些数字,跟指纹没有关系,Depue 在推文里自己用的词就是“估算”,依据是发布时间和模型参数。 报告写得更清楚:估算依赖芯片效率、训练数据量、训练时长几项“权重无法证实”的假设,作者“对这些估算没有把握”,而且报告发布当天就改了一轮数字。推文里“很可能数十亿美元”,报告没有给出任何算法。 【芯片在哪、合不合法,一概不知】 报告执行摘要最后一句承认,证据“不能说明芯片在哪、怎么拿到的、是否违反出口管制”。 @MyDaebakCafe 提醒,Depue 自己的验证也是在租来的云端 GB200 上做的;他说,不在美国实体清单上的公司,在新加坡、日本、中东的云上租 Blackwell,按美国商务部现行规则完全合法,留下的指纹一模一样。 Depue 在推文里也承认芯片可能是境外租的,称之为“国会还没堵上的漏洞”。走私涉嫌违法,境外租用至多是规则漏洞,性质完全不同。Depue 分不清是哪一种,却直接得出“禁令严重失效”。 【其他网友的质疑】 网友 @dodecagonism 指出,报告收了 11 月发布的 Kimi K3.1-Pro,却没把 DeepSeek 9 月发布的最新模型 V4.1-Flash 列进结果,“看起来是故意把方法不适用的模型都排除掉”。报告“局限”一节写了 V4.1-Flash 没找到任何指纹,推文只说四家的“最新模型”用了 Blackwell,对此一字没提。Depue 回应说,这说明方法不会对谁都报 Blackwell,DeepSeek 可能换了生成初始权重的方式;随后又发帖说“可能破解了,看起来像是英伟达”,目前还没公布结果。 网友 @dfranke 认为,报告所有惊人的结论都建立在“用哪种芯片初始化,就用哪种芯片训练”这个假设上,而报告自己就发现,有些模型的初始权重是在普通 CPU 上生成的,说明这个假设并不总成立。Depue 回应说,那是训练程序先在本机 CPU 上生成、再拷到本机显卡,跟跨集群搬运是两回事。 @MyDaebakCafe 在后续帖子里还提出,中国大厂用的是自己改过的训练框架,如果某段自定义代码把布局写死,用老芯片也能留下同样的痕迹。这一条 Depue 没有直接回应。 【谁来背书,为什么是这天】 推文说结果“经过 OpenAI 和 Anthropic 资深研究员独立验证”,报告里没有一个名字。当晚 Depue 又说,私下验证的人大多不愿具名。 @MyDaebakCafe 质问:为什么偏偏在 11 月 12 日、黄仁勋辞去英伟达 CEO 的当天发布?他的解读是,美国闭源模型公司眼看付费 API 的生意被免费的中国开源模型蚕食,这份报告正好递给华盛顿鹰派一个理由,去管控全球云算力、打压开源 AI。 动机属于他的推测,但有几件事是公开的:OpenAI 和 Anthropic 都指控过中国实验室“蒸馏”自家模型,Anthropic CEO Dario Amodei 专门发文支持收紧对华芯片出口;Depue 说发布前和官员通过信;发布约 40 分钟后,他又发帖为自己的新机构 Unemployment Labs 募资 500 万美元。匿名验证者来自利益相关方,发布者也有自己的诉求,这样的结论需要独立复现,目前还没有具名的第三方公布结果。 中国驻美使馆 2 月回应美国官员的同类指控时说,反对“泛化国家安全概念、滥用出口管制、把经贸科技问题政治化”。截至 11 月 13 日,四家公司和英伟达还没有回应这份报告。 Depue 原推: x.com/willdepue/stat… Depue 报告: unemploymentlabs.com/checkpoint-for… @MyDaebakCafe 原帖: x.com/MyDaebakCafe/s… will depue @willdepue I have a major result to share. I’ve found conclusive forensic evidence that the top 4 Chinese AI labs—DeepSeek, Moonshot, MiniMax and Ant Group—have built their newest models on NVIDIA’s most advanced Blackwell chips, which are barred from export to China. This sounds insane, but I discovered that almost every AI model carries a hidden signature of the GPU that trained it. When a model is first set up, the starting values of its weights are laid out in a pattern that depends on the exact GPU. Each combination of GPU and seed number produces a unique pattern—a sort of fingerprint of the hardware used to create the model. Traces of that pattern survive training into the published model. Again, this evidence isn’t based on any insider information or leaking. It’s based on a forensic analysis of the model weights released by the companies themselves. I searched more than six trillion combinations of chip layout and seed number and matched them to open-weights models. In doing so, I found conclusive evidence that six Chinese AI models—including DeepSeek-V4-Pro, Kimi K3, and MiniMax-M3—were initialized on NVIDIA Blackwell systems. Four of the models match Grace Blackwell, the GB200 and GB300 parts in NVIDIA’s flagship liquid-cooled rack-scale systems. I then verified these results on real hardware. Running unmodified PyTorch with the seeds I’d recovered, a Blackwell B300 reproduced DeepSeek-V4-Flash’s untouched starting weights bit for bit, and a rented GB200 reproduced Kimi K3’s to a correlation of 0.999995. A Hopper H100 reproduced none of DeepSeek-V4-Flash’s, and changing the seed by one broke the match. (DeepSeek’s seed is 953049583 by the way.) The method also was verified to match 24 known open-weights models to the hardware that developers said they used. It is exceedingly unlikely that these results are a coincidence. Across six trillion combinations, the best accidental match should reach only about 8 sigma (i.e., eight standard deviations above what random chance would produce). The real matches range from 49 to 1,385 sigma, and even the weakest single test hits 20. These were data-center-scale training runs. With some analysis of release schedules and model details, I estimate that the largest, Kimi K3 and DeepSeek-V4-Pro, used 2,000 to 3,000 Blackwell GPUs each. Clusters of this size cost on the order of $150 to $200 million each to buy, and across these labs alone would add up to more than half a billion dollars of export-controlled GPUs, not counting experimental compute or otherwise. It’s quite likely that we see multi-billion dollar expenditure on export-controlled GPUs. I am highly confident in this result, and it has been independently verified by senior researchers at OpenAI and Anthropic. You can read the full report at unemploymentlabs.com/checkpoint-for… . There is much more I’ve identified about these models through other forms of checkpoint forensics like this, and will have more to share soon. 🔗 View Quoted Tweet📊 7 ⚡
本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「中美大模型技术代差与商业化对照」「各国 AI 监管法案、合规治理与主权算力政策」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Blackwell、DeepSeek、月之暗面、出口管制,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「宝玉」(@dotey),经 AITOP 多维评分管线结构化提炼。