Programming

general · 首次出现 2026-05-22 · 最近出现 2026-11-20 · 累计提及 162

综述

Programming 在 AI 研究语境下正被重新定义:MIT CSAIL 近期提出的 Weight Space Programming(权重空间编程)让大语言模型不再只写人类可读的代码,而是直接读写神经网络的权重参数。这一方向试图绕过传统的训练管线,把模型改进本身变成一种可编程操作,被视为 AI 自主研究(autoresearch)的一条新路径。

Weight Space Programming 的近期进展

MIT CSAIL 团队使用 GPT-6 Astra 对 Qwen3.5-0.8B 这一小型开源模型进行权重级别的直接修改,实验显示其数学能力最高提升 6 倍。整个过程不依赖梯度下降或常规微调流程,而是让模型像编辑文件一样直接修改参数数值。MIT CSAIL 用 GPT-6 Astra 直接改写 Qwen 0.8B 权重,数学能力提升 6 倍

Latent Space 的分析指出,这类工作之所以受到关注,是因为它可能把 autoresearch(AI 自主开展研究)从传统的代码与实验循环中剥离出来——让模型直接在权重空间中“编程”,缩短从想法到模型改进的链路。LLM 直接读写神经网络权重:Weight Space Programming 展示修改 Qwen 权重

这一成果在研究者社区引发广泛转发,Hugging Face 联合创始人 Thomas Wolf 等人也参与了讨论,关注的焦点在于:小模型(0.8B 参数级别)能否通过权重级编辑以极低成本获得特定能力的显著提升。GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重,数学能力提升最高 6 倍

当前焦点与观察点

围绕这一新范式,目前有几个值得观察的问题:其一,权重级编辑的可靠性——直接修改参数可能引入不可预期的副作用,“数学提升 6 倍”是否伴随其他能力的退化,尚需更完整的评测;其二,方法的泛化性——目前验证集中在小模型和数学任务上,能否推广到更大模型和更复杂能力仍是未知数;其三,抽象层级的问题。MIT 公开课 6.S950 第 4 讲讨论的“AI 时代的抽象阶梯”与此呼应:当 AI 可以在权重、代码、自然语言等多个抽象层级上“编程”时,人类开发者应当工作在哪一层,是工程与教育都需回答的问题。

总体来看,Weight Space Programming 目前仍处于早期概念验证阶段,但它提示了一种可能性:Programming 的对象正在从代码扩展到模型本身。这一趋势能否成为主流的模型改进手段,取决于后续在稳定性、可解释性和规模化上的验证。

相关报道

10 条在档