美国总统科技顾问委员会主席批评 OpenAI、Anthropic：别借放缓之名寻求监管保护

美国总统科技顾问委员会主席炮轰 OpenAI、Anthropic：别借放缓之名寻求监管保护

IT之家 9 月 14 日消息，美国总统科学技术顾问委员会联合主席戴维 · 奥利弗 · 萨克斯（IT之家注：David Oliver Sacks）今日发文，就 OpenAI、Anthropic 近日“放缓前沿 AI 研发”论调发表个人看法： 达里奥表示，我们需要放缓前沿 AI 的发展速度，奥尔特曼也表达赞同。人们可能会对我的看法感到意外：那就让他们放慢吧。 你们两家公司就是前沿 AI。无论从市场份额、营收增长还是 AI 模型能力来看， 你们已经形成了前沿 AI 领域的双头垄断 。这两家公司还声称，由于递归式自我改进，领先优势正在进一步扩大。 我不知道你们实验室里发生了什么。如果尚未发布的模型已经强大到让你们认为应该放慢发展，那么我支持你们负责任地作出决定。 但是，你们别再装成需要其他人认可。别再假装必须暂停反垄断法，这样你们就会组成卡特尔。别装成需要一个凌驾于产品责任之上的监管审批，也别想着 METR（模型评估与威胁研究机构）是独立的，实际上它与 Anthropic 投资者和员工存在密切联系。你们别想着监管机构能拿你们的评判标准去衡量竞争对手。 最重要的是，别再假装你们放缓发展的动机完全出于“对别人好”。如果你们的产品导致真正具有破坏性的网络攻击，你们将面临巨大责任风险。市场本身已经在惩罚那些行为不可预测或未经授权的模型。 Hugging Face 事件之后，你们两家公司用部分原始能力换可靠性或可预测性，本来就是一门好生意。如果你们愿意，可以把这称为“对齐”。但归根结底，这同样是在为客户提供他们想要的东西。 放缓前沿 AI 的发展将为我们留出时间，让监管问题能够进行一场比伯尼 · 桑德斯（美参议员）所说的“全部关停”更加理性的讨论。正如你们所知，中国很难加入全球性协议，这一点同样值得考虑。 所以，那就放缓前沿 AI 的发展吧， 定义前沿的人就是你们 。避免构建超级智能的最简单方法，就是你们不去搞。 如果你们想按自己的偏好制定监管框架，作为放缓发展的交换条件。 这种行为在公众和政治体系里 ， 基本上等于敲诈 。所以，直接去做吧。 如果你们真的这么做，就能为下一轮对话赢得公众善意。如果你们不这么做，那么我们就会知道，这不过是又一次试图进行监管要挟，或者是一场选举季的心理战行动。