#Soft-MTP

一篇关于 MTP 训练细节的论文：作者发现梯度里的噪声项，改成只传 KL 自蒸馏信号，一行代码就能让各规模模型更准、解码更快，代码已开源。