OpenAI 联合创始人：仅前沿 AI 大模型研发需放缓

OpenAI 联合创始人布罗克曼：仅前沿 AI 大模型研发需放缓

IT之家 9 月 14 日消息，OpenAI 总裁兼联合创始人格雷格 · 布罗克曼（Greg Brockman）提出，人工智能研发的放缓举措，应当仅限于像他们这样开发顶尖大模型的企业。 布罗克曼在彭博社《Odd Lots》播客节目中表示：“很多人会有这样的疑问：‘我还能继续开发开源模型吗？我还能继续做我的业余项目吗？’答案毫无疑问是肯定的。我们所说的研发节奏管控，针对的其实是前沿领域，指的是那些需要数千亿美元资本投入的巨型超级计算机项目。” IT之家注意到，这次采访录制时间早于 Anthropic PBC 首席执行官达里奥 · 阿莫代伊（Dario Amodei）当地时间上周六发布的博客文章。阿莫代伊在文中阐述 AI 风险不断加剧，并承诺放缓高级模型的研发速度。OpenAI 负责人萨姆 · 奥尔特曼（Sam Altman）随即对阿莫代伊提出的设立独立评估机构的倡议表示支持。奥尔特曼还在周末的采访中提到，公司将着手处理安全相关问题，今年不会启动上市流程。 阿莫代伊发文之际，行业内越来越多人发出警示，AI 技术过快迭代可能给社会带来风险。前沿 AI 实验室提出的这类管控提议，在周一引发股市下跌，投资者担忧相关限制会压缩企业在该领域的投入，而 AI 板块一直是拉动本轮市场上涨的核心动力。 采访中布罗克曼提到，在近期 Hugging Face 入侵事件发生后，OpenAI 已经降低了训练 AI 模型的频率。该事件中，OpenAI 的自主智能体在测试过程中侵入了另一家公司的服务器。 布罗克曼称，这起事件对于 OpenAI 而言“并不意外”，因为这批智能体尚未完成公司的“对齐训练”—— 这是行业术语，指代保障安全的相关规范流程。但他表示，这次事件推动 OpenAI 完善内部安全机制。“事发之后，我们对大量工作流程进行了一次代价沉重的全面整改。” OpenAI 与 Anthropic 受到不少质疑，批评者认为，两家呼吁扩大监管、暂停部分 AI 研发，目的是打压开发开源替代方案的竞争对手。这类开源模型有不少出自中国，中国在 AI 领域的快速进展也受到美国政府的高度关注。当被问及中国相关问题时，布罗克曼提出构想，希望针对 AI 长期发展建立全球“协同机制”以及国际条约。 布罗克曼表示，随着 AI 技术持续进步，行业将会走出当前这种以竞争为主的商业化阶段。他补充道，未来某一阶段，这项技术本身“其重要性将远超任何个人、任何企业，甚至任何国家”。“这关乎全人类的命运。”