主要来源arXiv: DeepSeek
查看原文事件专题 ·官方一手
微软发布 SEMA-Auto:自动多轮越狱攻击框架
微软研究团队提出 SEMA-Auto,一个能自主与受害模型多轮交互并在成功后自行终止的越狱攻击框架。该框架采用两阶段训练:先用合成引导轨迹微调建立攻击目标概念,再通过决策监督强化学习同时优化攻击成功率与每轮决策。在 AdvBench 上对 DeepSeek-V4-Flash 达到 76.0% 的 ASR@1,平均仅需 3.0 轮,而最好的静态基线为 54.8%、交互式基线为 43.8%。对 GPT-oss-120B、GPT-5.4、Claude-Haiku-4.5、GPT-6-Astra 等安全加固模型,在 HarmBench 上平均取得 59.6% ASR@1,超过此前 SOTA 13.8 个百分点。
当前结论
微软这篇论文做了个自动越狱攻击器,对 GPT-5.4、Claude-Haiku-4.5 这些模型的攻击成功率近六成,做 AI 安全的得看看对手手段。
6 个信源61° AI 热度最后更新 2026/10/26 16:57:36
证据链
6 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。