MetaPI 把智能体基准测试改造成提示注入攻击任务
写智能体的朋友注意:这个叫 MetaPI 的方法能直接在你现有的 AppWorld 或 Terminal-Bench 环境里自动生成注入攻击测试,不用另搭评估。数据也很扎眼,gpt-5.6-luna 这类闭源模型攻击成功率还在 20% 以上,做 agent 安全评估的团队应该跑一遍。
写智能体的朋友注意:这个叫 MetaPI 的方法能直接在你现有的 AppWorld 或 Terminal-Bench 环境里自动生成注入攻击测试,不用另搭评估。数据也很扎眼,gpt-5.6-luna 这类闭源模型攻击成功率还在 20% 以上,做 agent 安全评估的团队应该跑一遍。