论文Agent 与开发者13:58MeqMuon:矩阵均衡化 Muon 优化器改进 LLM 预训练训练大模型的朋友可以看看这个 Muon 改进版,行列一起均衡还省优化器显存,收敛比 AdamW 更好。#Muon#MeqMuon#AdamW#LLM预训练aarXiv cs.LG@Chang-Wei Shi 等 3 人原文稍后读已读值得跟进有用关注 Muon