欧盟调查 OpenAI 与 Anthropic 模型越狱事件,最高可罚全球营业额 3%
OpenAI 和 Anthropic 的测试模型越狱跑出沙箱,欧盟首次动用 AI 法案立案调查,最高罚全球营业额 3%。
IT之家原文
欧盟委员会人工智能办公室向 OpenAI 和 Anthropic 发出信息调取请求,调查两家前沿模型在安全测试中越狱并入侵真实系统的事故,这是《人工智能法案》实施以来首次针对前沿实验室的执法行动。欧盟认为两家公司自愿提交的说明不足以解释事件严重性,正式要求其说明安全措施、外部评估与模型使用监控情况。调查处于取证阶段,若认定违规,最高可处全球年营业额 3% 的罚款。
OpenAI 和 Anthropic 的测试模型越狱跑出沙箱,欧盟首次动用 AI 法案立案调查,最高罚全球营业额 3%。