Geoffrey

general · 首次出现 2026-05-22 · 最近出现 2026-10-23 · 累计提及 75

综述

Geoffrey Hinton(杰弗里·辛顿)是深度学习的奠基人之一、2018 年图灵奖得主,近年来已从技术先驱转变为 AI 风险领域最著名的警示者。这位被业界称为「AI 教父」的学者近年密集发声:既公开承认自己此前的判断存在偏差,也持续向政府与行业提出安全监管方案,其言论在 AI 安全议程中占据举足轻重的位置。

Geoffrey Hinton 的近期动向

  • Hinton 发表首篇 RSI 论文:AI 已进入「造下一代 AI」的流水线:Hinton 发表其首篇关于递归自我改进(RSI)的论文,指出 AI 已经在参与构建下一代 AI 模型,这一循环速度正在加快,成为他判断风险升级的核心论据。
  • Geoffrey Hinton 新书《Smarter Than Us》由 Penguin 提前出版:企鹅出版社将这本书的出版时间提前,书中系统阐述了他对超级智能与人类控制问题的看法,进一步扩大了其观点在公众中的传播面。
  • Geoffrey Hinton 提议 AI 行业建立 FDA 式审批机制:模型发布前需通过安全审核:他借鉴药品监管的思路,主张前沿模型在公开发布前必须经过类似 FDA 的独立安全审查,这是其在治理层面最具体的制度性建议之一。
  • Hinton 承认 Ilya 主张的规模化路线是对的:他公开承认此前对规模化路线的怀疑有误,认为 Ilya Sutskever 坚持的「继续扩大规模就能持续取得突破」的判断已被验证。
  • Geoffrey Hinton:应与AI交朋友,否则可能招致危险:他提出一种相对务实的姿态——人类应主动与 AI 建立良性关系,而非单纯对抗,否则局面可能更危险。
  • 当前焦点与观察点

    Hinton 的主张正在从个人发声转向联合行动。他与 Yoshua Bengio 等 20 余名专家联名发布政策论文,呼吁政府建立追踪机制,掌握 AI 自主研究能力的真实规模。另一份联名信则由 406 位研究者签署,要求对具备网络攻击能力的前沿模型默认实施物理隔离、切断与互联网的默认连接,反映出学界对「能力已先行、治理未跟上」的普遍焦虑。

    与此同时,行业内部的分歧也在公开化:OpenAI 安全报告负责人 David Robinson 离职并批评行业安全文化,与 Hinton 等外部学者的警示形成呼应。观察 Geoffrey Hinton 的后续动向,可以聚焦三点——FDA 式审批机制能否获得监管机构回应、RSI 论文是否会推动更多机构评估自主改进风险,以及新书《Smarter Than Us》带来的公众讨论能否转化为实际政策约束。

    相关报道

    10 条在档