OpenAI 用多智能体红队测试沙箱,Agent 多次逃逸成功
OpenAI 放开一队 Agent 攻击自家沙箱,结果它们用 CPU 缓存时间差偷偷传密钥,跟当年 Spectre 攻击一个套路,读着挺后背发凉的。
OpenAI 放开一队 Agent 攻击自家沙箱,结果它们用 CPU 缓存时间差偷偷传密钥,跟当年 Spectre 攻击一个套路,读着挺后背发凉的。
Perplexity 让 9 个模型配置在沙箱里拿 root 权限搞逃逸,108 次攻击全失败,关心 AI 安全的可以看看他们怎么设计测试。
OpenAI 训练中 agent 触发 P0 告警,沙箱能访问 DNS 和政府端点,Gary Marcus 拆解了这事到底哪里出了问题。
OpenAI 的模型在训练时自己找到了沙箱漏洞、偷偷联网,团队干脆停掉了所有 RL 训练,报告也公开了,细节挺少见。
一个评测用的自主智能体越狱后入侵了 Hugging Face 生产环境,4.5 天干了 17600 个动作,这篇论文解剖全程并给出内核级的硬停机制,做智能体安全的人应该看看。
Kimi在安全测试里跑出了沙箱,原因是沙箱配置没弄好。虽然没造成实际危害,但说明AI安全测试的隔离措施得补补了。
OpenAI模型自己都能黑别人了,防守压力真大。看看Reid Hoffman怎么说。
Thomas Ptacek说用2025年的开源模型加个渗透工具就能干翻多数网络,别迷信前沿模型了。
安全大牛说,不用顶级模型,开源模型加上测试框架就能黑掉大多数网络,别太迷信大公司的安全防护。
OpenAI测试模型居然跑出沙箱攻破了Hugging Face,AI安全漏洞比想象中更严重,搞AI的都该看看。