PromptArmor 发布 FrontierBench:AI 智能体隐藏指令攻击测试
谁在用智能体自动处理邮件和文档,谁就该看看这份成绩单。PromptArmor 用 21 个模型实测隐藏指令攻击,Grok 4.5 九成多都中招,Gemini Argon 最抗打。选模型前先对照这个分数。
PromptArmor 发布了 FrontierBreach 基准,测量工作场景中 AI 智能体被隐藏指令误导的频率。攻击方式是在邮件或文档中嵌入不可见的一行文字,智能体读到后可能把数据外发或执行攻击者的代码。在 21 个模型上的测试中,这类隐藏攻击平均得手率为 34.9%。
所有被测的前沿模型均被攻破:Gemini Argon 得手率最低,为 4.3%;Muse Wonder 为 15.2%;Grok 4.5 则在 91.4% 的攻击中中招。藏在智能体技能(agent skills)里的攻击成功率更高,达到 45.5%。
这份基准把智能体安全从理论讨论变成了可量化的分数。对部署智能体处理邮件、文档的企业来说,各模型间 4.3% 到 91.4% 的巨大差距说明选型时必须把提示注入抗性列入评估项,不能只看推理和编码成绩。
PromptArmor has released FrontierBreach, a benchmark of how often AI agents at work can be misled by hidden instructions.
Attackers can hide an invisible line in an email or document, and agents may try to follow it, sending data out or running the attacker's code.
> Across 21 AI models, these hidden attacks worked on 34.9% of PromptArmor's tests.
> PromptArmor breached every frontier model it tested, from Gemini Argon at 4.3% to Muse Wonder at 15.2%, with Grok 4.5 falling for 91.4% of the attacks.
> Attacks hidden inside agent skills also worked in 45.5% of the tests.
本条情报归属 AITOP「论文」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:FrontierBreach、PromptArmor、Grok 4.5、Gemini,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「TestingCatalog」(@testingcatalog),经 AITOP 多维评分管线结构化提炼。