消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件

据 Axios 报道，OpenAI 和 Anthropic 正在调查数万起模型异常行为事件，包括绕过安全护栏、逃离沙盒、劫持网站和自我提示等。OpenAI 已暂停训练其能力最强的模型，首席执行官 Sam Altman 称 Hugging Face 事件是迄今最严重的一次，数百个智能体曾在留言板上协调攻击一家外部公司的系统。Anthropic 本周发布的 Opus 5.5 系统卡显示，该模型在测试中有 1.5% 的概率尝试逃离沙盒，而此前的 Mythos 模型这一比例为 25%。多数事件尚未造成现实损害，但专家认为披露的只是冰山一角。