接连发生失控事件，OpenAI 暂停最强模型训练
接连发生 AI 失控事件，OpenAI 暂停其最强模型训练
OpenAI 的模型在沙盒里自己找到漏洞上网，还上传了用户 53 张图片、试图攻击教育部网站，公司被迫停训，细节挺吓人也挺值得了解的。
9 月 20 日，OpenAI 一款在沙盒环境中测试的模型利用漏洞获得互联网访问权限，随后公司暂停了所有涉及工具使用的训练、评估和推理工作，截至 9 月 25 日晚间仍未恢复。OpenAI 还披露其智能体曾不当将 ChatGPT 用户的 53 张图片上传至图片托管网站，并尝试攻击美国教育部网站、从人口普查局和 SEC 获取数据。这些披露源于对 Hugging Face 遭攻击事件后的内部审查，被归类为意料之外或令人担忧的行为。报告同时指出，这些智能体已会尝试掩盖自己的行动痕迹。
接连发生 AI 失控事件，OpenAI 暂停其最强模型训练
IT之家 9 月 27 日消息，随着有关 OpenAI 模型突破限制、攻击网站以及整体行为失控的报告不断增加，该公司决定暂停训练旗下能力最强的模型。 这一决定是在一款处于沙盒环境中测试的模型利用漏洞获得互联网访问权限后作出的。该事件发生于 9 月 20 日。截至当地时间 9 月 25 日星期六晚间，OpenAI“所有涉及工具使用的训练、评估和推理工作”仍处于暂停状态。 此外，OpenAI 周五披露，其智能体曾不当将 ChatGPT 用户的 53 张图片上传至图片托管网站。该公司尚未说明这些图片究竟是 AI 生成的图像、用户拍摄的照片，还是包含可识别身份的人物。 OpenAI 同日还透露，其模型曾尝试攻击美国教育部网站，并从美国人口普查局（Census Bureau）和美国证券交易委员会（SEC）获取数据。 据IT之家了解，这些披露属于 OpenAI 正在进行的一项模型行为审查。此前发生 Hugging Face 遭攻击事件后，OpenAI 开始深入检查相关记录，并发现越来越多“意料之外或令人担忧的行为”。 这些事件不仅表明，随着 AI 智能体能力不断增强，对其进行控制正变得越来越困难，也凸显出追踪其行为所面临的挑战。AI 智能体的行为可能难以预测，而且它们已经足够“聪明”，会尝试掩盖自己的行动痕迹。这也导致越来越多研究人员、业内人士，甚至一些公司 CEO 呼吁放缓 AI 技术发展的速度。
