事件专题 ·多源确认

Mira Murati 公开 Inkling 2 Small 训练细节:原生 4-bit 前向传播

Thinking Machines Lab 创始人 Mira Murati 在 X 上发布博客,介绍 Inkling 2 Small 模型采用原生 4-bit 前向传播的训练方法,从第一步预训练到最后 RL rollout 全程运行在 NVIDIA GB300 上。 文中称这项改进使预训练时间从数周缩短到 68 小时,且这是整个技术栈中多项优化之一。原生低比特训练区别于常见的训练后量化,意味着前向传播本身就在 4-bit 精度下进行,可显著降低显存和算力开销。 这类工程优化路线与 DeepSeek、Moonshot 等中国团队强调的低成本训练思路相似,对预算有限的中小实验室有直接参考价值。

当前结论

Mira Murati 的 Thinking Machines Lab 拆解了 Inkling 2 Small 怎么把预训练压到 68 小时,全程 4-bit 前向跑在 GB300 上。做低成本训练的工程师应该看看这篇,思路和 DeepSeek 的省算力路线可以对照着读。

11 个信源66° AI 热度最后更新 2026/11/13 21:44:47

证据链

11 个信源
主要来源Mira Murati (TML)
查看原文
相关来源 3Thinking Machines Lab
查看原文
相关来源 10The Information
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。