论文

Alex Krentsel 复现 MIT 权重空间编程实验,新模型无需训练生成 Breakout 网络

精选理由

有人复现了 MIT 那个权重空间编程实验,发现新模型不用训练就能直接生成打 Breakout 的网络,分数还是 RL 基线的 22 倍,挺离谱的。

Alex Krentsel 跨模型代际复现了 MIT 的权重空间编程实验,发现能力出现明显跳变。最新模型在不训练、不借助工具的情况下,直接生成了可玩 Breakout 的网络。这些生成网络的成绩最高达到 RL 训练基线的 22 倍。实验表明权重空间编程效果随模型能力提升而显著增强。

原文 · kimmonismus

Let’s go: Alex Krentsel replicated MIT’s weight-space programming experiment across model generations and found a sharp capability jump.

The latest models generated Breakout networks without training or tools that scored up to 22× the RL-trained baseline!