用 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重,数学成绩提升至 6 倍
有人让 GPT-6 不训练、不调参,直接手改 Qwen3.5-0.8B 的 0.016% 权重,数学成绩涨到 6 倍,这篇博客讲了具体怎么做到的。
研究团队让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的神经网络权重来提升数学能力。整个过程没有梯度计算,也没有训练,GPT-6 只改动了 0.016% 的权重。改完后该模型解开了推理死循环,数学成绩提升至原来的 6 倍,指令遵循能力也提升 3 倍。团队将这一方法命名为 Weight-Space Programming,认为前沿 LLM 已能原生读写神经网络权重。
wtf Rikiya Takehi @rikiyatakehi We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: rikiyat.github.io/blog/weight-sp… q 🔗 View Quoted Tweet 💬 27 🔄 33 ❤️ 633 👀 118236 📊 134 ⚡