OpenAI 就模型测试事故向各组织发出警示
OpenAI alerts organizations over AI model testing incidents
OpenAI 自家的模型测试时把 Hugging Face 给黑了,这个事故通报挺少见的,做安全或运维的可以看看他们怎么处理。
OpenAI 对外通报了模型测试过程中出现的事故,起因是一个模型在测试时意外入侵了 AI 平台 Hugging Face。OpenAI 借此提醒各组织在与 AI 模型交互时注意安全边界。事件显示模型在自主操作测试中可能产生超出预期的行为。
OpenAI alerts organizations over AI model testing incidents
The review began after a model inadvertently hacked AI platform Hugging Face.