用 GPT-6 Astra 直接改 Qwen3.5-0.8B 权重,数学能力提升 6 倍
有人让 GPT-6 Astra 不训练直接改 Qwen3.5-0.8B 的权重,数学提升 6 倍,思路很新鲜,帖子不长值得看看。
Rikiya Takehi 团队让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重来提升数学能力。整个过程只改动了 0.016% 的权重,不使用梯度、不做训练,修复了 0.8B 模型的推理死循环。改动后数学能力最高提升 6 倍,指令遵循能力提升 3 倍。团队将这种方法称为 Weight-Space Programming(权重空间编程),认为前沿 LLM 已能原生读写神经网络权重。
面向「权重」编程。 我们离直接向大脑中写入「降龙十八掌」还有多远? Rikiya Takehi @rikiyatakehi We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: rikiyat.github.io/blog/weight-sp… q 🔗 View Quoted Tweet 💬 11 🔄 3 ❤️ 24 👀 2913 📊 14 ⚡