#AgentDojo

共 6 条 · 7 天 1 条 · 30 天 4 条

信息流里打上「AgentDojo」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月15日

智能体被注入指令时防不住？这篇论文把放行决定推迟到证据够了再做，AgentDojo 上攻击成功率从 47% 压到 2.7%，做安全的人可以细看。

arXiv cs.LG@Kristoffer Hempel 等 4 人2 个信源在谈原文

9月28日

一篇教你怎么在部署前自动找智能体漏洞的论文，72 个真实漏洞复现，攻击成功率比 Codex 高出不少，做智能体安全的必看。

arXiv cs.AI@Weida Liang 等 9 人原文

智能体调工具乱授权是老大难，这篇用元属性加固定策略，比 CaMeL、IPIGuard 更稳还更一致，做 Agent 安全的可以看看。

arXiv: OpenAI@Hanzhang Ma 等 12 人原文

9月22日

智能体跑长任务容易中提示注入，这篇给了逐动作把关的运行时方案，AgentDojo上比现有防御更稳

arXiv cs.AI@Kaiyuan Zhang 等 4 人原文

9月3日

论文精选73°12:17

SafeEvolve通过策略协同进化提升AI智能体安全性，在降低有害响应的同时保持性能，比现有方法更有效。

arXiv cs.AI@Qinghua Mao 等 11 人原文

8月28日

论文精选73°19:57

研究人员提出SARA框架，解决了LLM智能体中工具输出被滥用的安全问题，在四个主要评估设置中表现优异。

arXiv cs.AI@Xiaokun Guo 等 8 人原文