AITOPAI热报

安全漏洞

共 45 条相关 AI 资讯
5月20日
11:08
5月19日
14:03
14:03官方一手arXiv: DeepSeek@Dylan Marx, Marcel Dunaiski
精选72°
研究发现，使用低资源非洲语言（如南非荷兰语、斯瓦希里语、科萨语和祖鲁语）进行多轮对话，可以绕过ChatGPT、Claude、DeepSeek、Gemini和Grok等商业大模型的安全护栏。单轮翻译攻击无效，但多轮对话在英语上达到52.7%-83.6%的有害响应率，非洲语言也达到41.8%-78.2%。人工红队测试比自动化方法越狱率更高，且翻译质量是决定越狱成功的关键因素——翻译质量越差，越狱率越低。
论文越狱攻击低资源语言多轮对话
推荐理由：安全团队和LLM开发者需要警惕：多语言安全漏洞远未被堵住，低资源语言成为新的攻击面。建议立即检查自家模型的多轮对话安全机制。
原文
08:42
08:42岚叔@lufzzliz
研究人员发现一种名为AudioHijack的新型攻击，将恶意指令隐藏在音频波形中，人耳无法察觉，但语音模型会将其作为输入指令处理。攻击成功率在13个主流音频模型中达79%到96%，可让模型搜索敏感信息、下载文件、发送邮件等。传统防御效果有限，常规检测仅降低7%成功率，自我检查也只抓住28%攻击。文章指出，语音AI的“听”与“动手”能力结合，使音频成为新的prompt injection入口，需要默认增加异常检测和工具权限隔离。
AI产品语音AI安全漏洞AudioHijack
推荐理由：语音AI的安全漏洞正在从文本扩展到音频，做语音助手或音频处理应用的开发者需要警惕，建议立即检查模型输入的安全防护。
原文
5月15日
08:55
08:55IT之家（博客/媒体）
安全专家利用 Anthropic 最强 AI 模型 Claude Mythos，在苹果 macOS 26.4.1 系统中成功实现提权攻击，从普通本地账户获取 root shell 并绕过 Apple Silicon 的 MIE 保护。攻击结合了 2 个漏洞和多种利用技巧，由人类研究员与 AI 共同完成，耗时约 5 天。这是首个公开的 Apple M5 内核内存破坏利用案例，凸显 AI 在安全研究中的辅助价值。苹果正在审查漏洞，技术细节暂未公开。
行业安全漏洞macOSClaude Mythos
事件专题
推荐理由：安全研究员和 macOS 开发者值得关注——AI 辅助挖洞的效率正在质变，Claude Mythos 帮团队 5 天就打通了 M5 内核提权链，建议点开看看 AI 如何加速漏洞发现。
原文
5月13日
19:12
19:12官方一手arXiv: OpenAI@Zhun Wang, Nico Schiller, Hongwei Li, Srijiith Sesha Narayana, Milad Nasr, Nicholas Carlini, Xiangyu Qi, Eric Wallace, Elie Bursztein, Luca Invernizzi, Kurt Thomas, Yan Shoshitaishvili, Wenbo Guo, Jingxuan He, Thorsten Holz, Dawn Song
精选75°
ExploitGym 是一个大规模、多样化的基准测试，用于评估 AI 智能体将安全漏洞转化为实际攻击的能力。该基准包含 898 个来自真实世界漏洞的实例，涵盖用户空间程序、Google V8 JavaScript 引擎和 Linux 内核三个领域。评估显示，前沿模型如 Anthropic 的 Claude Mythos Preview 和 OpenAI 的 GPT-5.5 能成功利用 157 和 120 个漏洞实例，即使在启用常见防御措施后仍保持一定成功率。这项工作揭示了 AI 智能体在网络安全中的双重用途风险，为防御和攻击场景提供了重要测试平台。
论文安全漏洞AI智能体基准测试
事件专题
推荐理由：安全研究员和红队成员终于有了评估 AI 攻击能力的标准化工具——ExploitGym 覆盖真实漏洞和防御场景，做渗透测试或 AI 安全评估的团队可以直接拿来用。
原文