#缩放律

数据不够用之后预训练怎么办？这篇论文给了理论答案：与其训一个大模型，不如训练多个小模型做集成，还能推迟早停时机。