Sam Altman 提出“pacing 2.0”：设限可自我改进的 AI 系统
精选理由
OpenAI 内部在讨论给能自我改进的 AI 设上限，Altman 亲口说要找“不能安全发布”的临界点，这方向挺少见。
Sam Altman 表示 OpenAI 需要弄清 AI 何时强大到无法安全开发或发布。这项内部称为 “pacing 2.0” 的工作，核心是为能够持续自我改进的 AI 系统设定开发与发布上的限制。目前尚无具体阈值或时间表公布。
原文 · The Information
Sam Altman says the company needs to figure out when AI becomes too powerful to safely develop or release.
Internally dubbed “pacing 2.0,” the effort would establish limits on AI systems that can continuously improve themselves.
Read more: https://t.co/4dnpFbgysR
