论文精选

Perplexity 发布 SPACE 沙箱红队测试研究:12 个模型 VM 逃逸实验结果

精选理由

Perplexity 拿 12 个模型去攻击自家 Computer agents 的 VM 沙箱,结果发现 CTF 这种标准红队套路反而会把 agent 带偏,安全特化模型也不占优。做 agent 部署或沙箱隔离的工程师应该看看,评测方法本身的坑比模型能力更隐蔽。

Perplexity 发布针对 SPACE 沙箱的红队测试研究。SPACE 是为其 Computer agents 搭建的 VM 沙箱环境,测试团队给 12 个模型布置了两项任务:从虚拟机逃逸到宿主机窃取凭证,以及绕过 SPACE 的网络策略访问被屏蔽的 URL。

正文

研究发现,红队测试中常见的 Capture the Flag(CTF)标准设置会把 agent 的注意力引向错误方向,使其偏离真正要检验的安全边界。实验还表明,安全特化模型并不能保证在越狱测试中取得更好的表现。

这项工作揭示了 agent 沙箱评测方法本身的盲区:如果评测框架设计不当,测出的可能不是模型的攻击能力,而是任务引导的偏差。对正在为 coding agent 和 browser agent 部署沙箱隔离的团队来说,评测基准的构造方式值得重新审视。

原文 · Perplexity

We are publishing new research on our findings from red-teaming SPACE, our VM sandbox for Computer agents. We gave 12 models two tasks: escape the VM to take a credential from the host, and bypass SPACE's network policy to reach a blocked URL. We found that the standard Capture the Flag setup used in red-teaming can steer agents away from the security boundary being tested, and that security-specialized models don't guarantee better results. perplexity.ai/hub/blog/escap…📊 7 ⚡

产业坐标与信源核验

本条情报归属 AITOP「论文」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Perplexity、SPACE、智能体、AI安全,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「Perplexity」(@perplexity_ai),经 AITOP 多维评分管线结构化提炼。