#红队测试

做手机 GUI 智能体或相关安全工作的话，这篇值得看：它不靠人工写死攻击载荷，而是顺着智能体实际执行轨迹自动找注入点，83 个实例覆盖 12 个应用，攻击成功率比人工和零样本 LLM 基线都高，可以直接当部署前审计工具用。

安全圈吵起来了：有人说 SOC 2 就够防 AI 攻击，Gergely Orosz 拿 Binance 被偷 60 亿美元的例子反驳，观点很直接。

Gergely Orosz@GergelyOrosz原文

这篇论文把儿童语音助手、青少年AI陪伴、老年人护理拒批这些案例串成一个问题：我们默认用户都是成年人。安全从业者可以看看那个风险矩阵和三层评估框架。

OpenAI 首次细讲训练前沿模型时怎么防泄密：离线环境加大算力红队测试，做安全或基础设施的可以看看。

官方一手OpenAI Blog原文

个人智能体连一堆服务，良性请求也可能串出有害结果。这篇提出用工具依赖图自动挖有害路径，比 STAC 多 77%，还覆盖近 3 倍工具。

一篇把流行病学的种群动态思路搬到智能体安全上的论文，核心发现很反直觉：协作让智能体多了个数量阈值，越过就失控。

一篇把 AI 安全防御写成博弈论的论文，算出了什么时候修 bug、做红队才划算，还证明修复快不代表被攻陷概率低。

一篇教你怎么在部署前自动找智能体漏洞的论文，72 个真实漏洞复现，攻击成功率比 Codex 高出不少，做智能体安全的必看。

OpenAI内部红队测试细节可能透露AI安全新进展，推文提到ExploitGym和5.6-Sol子代理

官方账号Simon Willison@simonw原文

OpenAI 搞了个 GPT-Red 自动红队模型，提示注入赢人类 84% 对 13%，还发现了 Fake Chain-of-Thought 攻击。

官方一手marktechpost@Asif Razzaq原文

想了解如何自动化挖Claude Code和Codex的漏洞？这篇论文提出了AHA方法，比现有方法强14%，还能跨场景复用。搞智能体安全的值得看。

这篇论文拿多个模型种群跑了几万局游戏，发现换一条规则，事故率能差 58 个百分点，而且匿名化也挡不住针对性消除。做多智能体安全的一定要看。

这篇论文直接用阈值加风险控制就能搞定LLM安全监控，效果不输那些复杂方法，适合快速落地。

做音频安全或深度伪造检测的团队，终于有了一个无需手动标注就能自动发现模型盲点的工具——FoeGlass用LLM上下文学习就搞定了，建议直接跑一下开源代码看看效果。

该研究首次为LLM护栏分类器提供了形式化验证方法，揭示了高经验指标下隐藏的安全漏洞，对AI安全领域具有重要指导意义。