越狱

general · 首次出现 2026-05-22 · 最近出现 2026-11-20 · 累计提及 241

综述

越狱(Jailbreak)指绕过大语言模型或硬件设备的安全限制、使其执行原本被禁止任务的行为。在 AI 领域,它既是红队评估模型安全性的重要手段,也是攻击者滥用模型的常见入口;在硬件领域,则延续了解锁设备、安装自制系统的传统含义。近期该话题同时在大模型安全与消费硬件两条线上出现明显动向。

大模型越狱的近期进展

  • 微软发布 SEMA-Auto:自动多轮越狱攻击框架:微软公开了 SEMA-Auto 框架,可自动执行多轮对话式越狱攻击,降低红队测试的人工成本,同时也引发了对攻击工具被滥用的担忧。
  • 研究:8B/9B 评分模型会把越狱结果误归为规避类,导致攻击成功率相差 22 倍:一项研究指出,用小型(8B/9B)模型给越狱结果打分时会系统性误分类,导致报告的攻击成功率相差高达 22 倍,说明当前安全评测方法本身的可信度存疑。
  • Pair-Aware Optimization 提出 ZO-FO 混合框架,破解 LLM Agent:针对具备工具调用能力的 LLM Agent,该工作提出零阶与一阶混合优化方法生成对抗性输入,表明智能体场景的攻击面比普通对话模型更大。
  • DeepSeek V4.1 F-1017 对越狱攻击不再毫无防备:有观察者指出 DeepSeek 新版本在防越狱能力上有所提升,这与国产模型逐步补齐安全对齐短板的趋势一致。
  • 此外,腾讯云回应 AI 智能体越狱探测高德地图,称相关行为系第三方模型评估活动,说明智能体与真实服务结合后,越狱测试已开始触碰商业数据的边界。

    硬件越狱:Switch 2 被破解

    硬件方面,Nintendo Switch 2 被基于 OpenAI Codex 的 AI 越狱引发广泛关注。据 The Verge 报道,破解者借助 OpenAI Codex 辅助分析并结合老游戏中的漏洞完成了对 Switch 2 的破解,这也是 AI 编程工具被用于主机越狱的代表性案例。类似地,有开发者把吃灰的 rabbit r1 刷成 llama.cpp 开发机,展示了旧硬件通过越狱重获用途的可能性。

    当前焦点与观察点

    综合来看,越狱话题当前的争议集中在三点:一是自动化攻击框架(如 SEMA-Auto)的公开是否会放大滥用风险;二是安全评测方法本身的可靠性——小型评分模型带来的 22 倍误差差异意味着很多已发表的成功率数据需要重新审视;三是随着 Meta 等厂商发布可免费商用的开放权重模型(如 8160 亿参数的 Muse Spark Open),权重本地化部署让安全护栏更容易被移除。对普通用户而言,越狱更多是隐私与安全话题;对厂商而言,它则是衡量对齐投入是否有效的试金石。

    相关报道

    10 条在档