模型Agent 与开发者精选14:28NanoGPT 训练纪录刷新至 39.9 秒,Deven Pzak 引入 flop 级稀疏优化Deven Pzak 把 NanoGPT 训练干到 39.9 秒,思路不是堆算力而是按 flop 精打细算,嵌入参数撒到 65B 还只用 124M 活跃参数,搞训练的都该看看。#NanoGPT#Anvil2#Muon#稀疏优化Thomas Wolf@Thom_Wolf原文稍后读已读值得跟进有用关注 NanoGPT
论文09:34分布式卷积秩回归在去中心化网络上的研究这篇论文提出了去中心化网络下的卷积秩回归新框架,用ADMM高效求解,还给出了理论保证,做分布式学习的值得一看。#Convolution Rank Regression#去中心化网络#ADMM#分布式学习aarXiv cs.LG@Chunjing Li 等 3 人原文稍后读已读值得跟进有用关注 Convolution Rank Regression