论文Agent 与开发者10:31MuonGS:用 Gram-Schmidt 投影放松权重范数控制,预训练提速约 15%改进 Muon 优化器的论文:不硬压权重范数,改成投影掉径向分量,实测比 MuonH 省 15% token,训练 LLM 的可以看看。#Muon#MuonGS#优化器#LLM预训练aarXiv cs.AI@Athanasios Glentis 等 3 人原文稍后读已读值得跟进有用关注 Muon