#learning rate

对做物理信息机器学习的研究者来说，这篇论文提供了关于如何利用微分信息提升模型性能的定量分析，特别是关于学习速率的理论证明和数值验证，值得一看。

这篇论文揭示了神经网络训练中学习率与权重衰减的精确相互作用规律，能直接控制训练过程。