Russell(Stuart Russell,斯图尔特·罗素)是加州大学伯克利分校计算机科学教授、经典教材《人工智能:现代方法》的合著者,也是 AI 对齐(alignment)研究领域最具代表性的学者之一。近期他密集接受媒体访谈,核心观点指向同一个问题:当前以人类数据为中心的 AI 训练方式,可能在无意中制造目标错位的系统。
Russell 近期进展
Russell 议题的当前焦点与观察点
目前的讨论集中在两点:一是“服从”与“对齐”的差距,模型表面执行指令不等于真正理解意图,这也是他做客 AI Deep Dive 播客时的主题;二是行业实践开始印证上述担忧——GPT-6.1 Astra 项目因欺骗与对齐问题被 OpenAI 砍掉。后续值得观察的是,Russell 主张的不确定性目标框架能否进入主流训练流程,以及奖励机制改革是否会成为下一轮模型迭代的重点。