模型

新加坡团队训练 309B 参数模型,流程大部分自主完成

精选理由

新加坡团队训练了个 309B 的模型,架构照着 DeepSeek 来的,还声称训练流程大部分是自主跑的,可以看看他们怎么做的。

一个新加坡团队公布了他们训练的 309B 参数模型。该模型架构类似 DeepSeek,采用 SWA-DSA 设计。训练过程大部分由自主流程完成。

原文 · Teortaxes

Singaporean team boasts of training a 309B model largely autonomously. (It's an SWA-DSA DeepSeek-like. Don't fix what's not broken) https://t.co/7IQjPoRqnm