WeightCode 提出权重空间编程:不训练直接向网络写入新能力
不用再跑微调了:一个冻结的语言模型直接写程序改权重,把新技能装进训好的网络。ImageNet 上 8.84-17.62 点的增益超过 8 种微调方法,程序还能跨 5 个独立训练的 ViT 复用。做模型定制和持续学习的工程师值得认真评估这条路子。
不用再跑微调了:一个冻结的语言模型直接写程序改权重,把新技能装进训好的网络。ImageNet 上 8.84-17.62 点的增益超过 8 种微调方法,程序还能跨 5 个独立训练的 ViT 复用。做模型定制和持续学习的工程师值得认真评估这条路子。