#预训练优化

共 1 条 · 7 天 1 条 · 30 天 1 条

4-bit 训练 1 Inkling 2 Small 1 NVIDIA GB300 1 Thinking Machines Lab 1

信息流里打上「预训练优化」标签的资讯、产品与论文，按刊登时间排，新的在上。

11月14日

模型 Agent 与开发者多源确认精选05:49

Mira Murati 公开 Inkling 2 Small 训练细节：原生 4-bit 前向传播

Mira Murati 的 Thinking Machines Lab 拆解了 Inkling 2 Small 怎么把预训练压到 68 小时，全程 4-bit 前向跑在 GB300 上。做低成本训练的工程师应该看看这篇，思路和 DeepSeek 的省算力路线可以对照着读。

#Inkling 2 Small #Thinking Machines Lab #NVIDIA GB300 #4-bit 训练

官方账号Mira Murati (TML)@miramurati原文