事件专题 ·多源确认

RISE 攻击方法可绕过 OpenAI 与 Google 图像模型安全过滤

White Circle 的 RISE 系统通过演化可复用的攻击策略绕过图像模型的安全过滤器,论文已被 NeurIPS 2026 接收。在裸露内容测试中,RISE 的人工确认成功率分别为 DALL-E 3 的 13.33%、Nano Banana 2 的 9.47%、GPT-Image-2 的 3.27%,每个提示词尝试 3 次。同样的严格评估标准下,多个早期越狱方法的成功率降至接近零。RISE 将自动化评分与人工标注对照,帮助研究人员在模型防御持续更新时继续发现新的弱点。

当前结论

White Circle 搞了个叫 RISE 的攻击系统,实测能绕过 DALL-E 3 和 GPT-Image-2 的过滤,成功率数字都写在论文里,做安全研究的朋友可以看看。

11 个信源61° AI 热度最后更新 2026/10/14 20:47:04

证据链

11 个信源
相关来源 7The Information
查看原文
相关来源 8Guillermo Rauch
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。