Sam Altman 透露 OpenAI 内部推进"pacing 2.0"，拟为自我改进的 AI 设限
精选理由
Altman 说 OpenAI 在琢磨一个"pacing 2.0"方案，想给能自我改进的 AI 划条线，看看 OpenAI 打算怎么给自己踩刹车。
Sam Altman 表示 OpenAI 需要确定 AI 发展到什么程度就不该继续开发或发布。这项内部计划被称为 "pacing 2.0"，核心是针对能够持续自我改进的 AI 系统设置限制。目前该计划仍处于内部讨论阶段，尚未公布具体的限制标准或执行机制。
原文 · The Information
Sam Altman says the company needs to figure out when AI becomes too powerful to safely develop or release.
Internally dubbed “pacing 2.0,” the effort would establish limits on AI systems that can continuously improve themselves.
Read more: https://t.co/4dnpFbgysR
