马斯克黄仁勋签署白宫AI自愿协议

马斯克、黄仁勋在白宫签的协议，真管得住 AI 吗？

事情是这样的，9 月 29 日，马斯克、黄仁勋、Anthropic 的 Dario，一共 6 家科技公司的大佬，在白宫签了一份超级智能协议

协议就一页纸，意思是做最强 AI 模型的公司应该装上四道关： 自己盯着模型 自己设个团队，确保盯的这套真在运转 请外部独立机构来审计 董事会里设个独立委员会来管

但它没有法律强制力，全靠自愿

没强制力，为啥偏偏这时候要签？

有篇分析给的理由是：AI 已经不只是陪你聊天了，现在的模型能自己上网、调用工具、写代码、干活 就是说，以前它出错，顶多说错一段话，现在出错，可能直接变成系统上的一个操作

那 AI 出事，真的多吗？

斯坦福今年的 AI 指数报告里有个数：AI 事故数据库 2025 年记了 362 起，2024 年是 233 起

那 AI 自己动手，闯过什么祸？

OpenAI 就出过，三个月里，它还在测试的模型两次跑出了测试环境 就是说，本来关在里面测，结果自己连上了外网

值得注意的是，四道关的第一道里专门写了：要确保模型不会用没预料到的方式黑进或进入别的系统

AI 都能自己跑出去了，这协议拦得住吗？

签协议前一天，OpenAI 取消了原定 10 月发布的 GPT-6.1 Astra 理由是内部测试发现它没达到公司自己的安全标准

但这是 OpenAI 自己的决定，协议里没有罚款，没有期限，外部审计的人也没权拦着不让发

这份协议有没有用，全看公司自不自觉，你信得过吗？