OpenAI 安全委员会成员 Paul Christiano 称 AI 接管风险最高达五成

OpenAI 安全与安保委员会成员 Paul Christiano 在《The Hinton Lectures》演讲中表示，未来 6-12 个月内存在 AI 接管的实质性风险，如果以最快速度、最简单方式构建前沿 AI，未来 3 年内发生灾难的概率接近五五开。他声称目前已经观察到重大事故发生前可能出现的迹象，并且即便采取现实可行的政策应对，风险依然极高。 Christiano 的判断带有特殊分量：他是 RLHF（人类反馈强化学习）的共同发明者，这项技术在 2017-2021 年间于 OpenAI 诞生，至今仍是 ChatGPT 等模型对齐训练的核心方法；2024-2026 年他还担任美国政府 AI 安全机构（现名 CAISSI）安全负责人。也就是说，他本人处于 OpenAI 内部阻止高风险实践的委员会中，同时深度参与过官方安全监管。 Gary Marcus 转发时表示不同意其技术判断，但提出了一个尖锐质疑：如果 OpenAI 董事会成员认为存在这种级别的风险，这家公司及其竞争对手为何仍被允许按现有速度继续运营。该发言出自《The Hinton Lectures》系列讲座，相关活动仍在持续举行。