#低比特训练

共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「低比特训练」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月14日
模型Agent 与开发者多源确认05:27
Thinking Machines 公布 Inkling 2 Small 全程原生 4-bit 训练细节

Thinking Machines 把 Inkling 2 Small 从预训练到 RL rollout 全程用原生 4-bit 前向跑完,速度更快但量化误差会伤学习,这篇博客讲了他们怎么解决。做训练或想省算力成本的工程师值得看看细节。

事件专题
官方账号Thinking Machines Lab@thinkymachines原文