论文10:17Hessian 特征值聚类之谜:对称性破缺理论给出统一解释训练好的模型 Hessian 谱总长那样?这篇论文用对称性破缺把聚簇和离群值一次讲清楚,还覆盖 transformer 和 NTK。#Hessian#NTK#ReLU网络#优化理论aarXiv cs.LG@Yossi Arjevani原文稍后读已读值得跟进有用关注 Hessian
论文精选11:24Muon优化器的哈密顿概率梯度流视角这篇论文为Muon优化器提供了严格的数学基础,揭示了其与哈密顿动力学的深层联系。对优化理论研究者或想深入理解Muon工作机制的深度学习从业者,值得细读。#Muon优化器#概率梯度流#哈密顿动力学#平均场理论aarXiv cs.LG@Aratrika Mustafi 等 3 人原文稍后读已读值得跟进有用关注 Muon优化器