模型

DeepSeek V4.1 Pro 预训练数据量或突破 50T tokens

精选理由

博主在猜 DeepSeek V4.1 Pro 的预训练量会破 50T tokens,还拿 Microsoft 的 MAU 和 OpenAI 的规模做对比,算力党可以看看。

一条针对 DeepSeek 下一代模型 V4.1 Pro 的推测认为,其预训练 tokens 规模有望突破 50T。文中提到 Microsoft 在 MAU 上已经用到了 50T,OpenAI 和蚂蚁的用量被认为高于这一数字。作者希望 DeepSeek 的用量远超 50T,并称这将是其首个摆脱算力限制的 Whale 级模型。

原文 · Teortaxes

It would make sense for V4.1 Pro to break through 50T pretraining tokens. (Microsoft already did 50T in MAU, and OAI/Ant are clearly above that). I hope it's a lot more, though. The first Whale not bearing the scars of compute poverty will be a terrifying and majestic sight.

DeepSeek V4.1 Pro 预训练数据量或突破 50T tokens|AI热报