MIT Weight-Space Programming 引发猜测:权重或成 AI 可读的编程语言
MIT 这个 weight-space 研究火了,有人据此预测训练推理会合并、AI 能直接改权重互相进化,脑洞够大。
MIT 发布 Weight-Space Programming 相关工作后,Yuchen Jin 在 X 上给出三条预测。第一,模型权重可能变成 AI 能理解而人类难以阅读的编程语言。第二,训练与推理可能融合,模型在思考过程中持续改写自身权重。第三,AI 或可绕过反向传播,直接编辑彼此的权重实现共同进化。
(wild) predictions after today's MIT Weight-Space Programming work:
1. Model weights become a programming language that AI can understand, but humans can't.
2. Training and inference will merge. Like human brain, AI could continuously rewrite its own weights while thinking.
3. A new path to RSI: AIs will directly edit each other's weights, evolving together without backprop.