行业

OpenAI 基金会董事 Paul Christiano 估计明年 AI 失控概率约 10%

精选理由

说 AI 明年失控概率有 10% 的人,身份是 OpenAI 基金会董事,不是普通研究者。这个数字比业内常见估计高不少,想了解 OpenAI 治理层怎么看待前沿模型风险的话很值得看。

OpenAI 基金会董事会成员 Paul Christiano 表示,人类在明年失去对 AI 控制的概率约为 10%。这一表态由 The Information 报道,来源为其在 X 平台上的公开发言。

正文

Christiano 是 AI 安全领域的知名研究者,曾创立 ARC 理论中心,长期研究 AI 对齐问题,2023 年曾提出过 AI 导致人类灭绝的概率估计。此次他给出的 10% 失控概率针对的是未来一年这一较短时间尺度,而非长期风险估计,数值显著高于多数研究者的同类判断。

值得注意的是,Christiano 身处 OpenAI 基金会董事会这一治理岗位,其风险评估与 OpenAI 内部对前沿模型的安全判断直接相关,也为外界观察 OpenAI 基金会治理层的风险立场提供了一个具体数据点。

原文 · rohanpaul_ai

An OpenAI Foundation board member, Paul Christiano, now sees about a 10% chance humans lose control of AI next year.

per The Information https://t.co/G5bAwVFxUT

产业坐标与信源核验

本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「各国 AI 监管法案、合规治理与主权算力政策」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Paul Christiano、OpenAI、AI安全,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「rohanpaul_ai」(@rohanpaul_ai),经 AITOP 多维评分管线结构化提炼。