12:17
官方账号arXiv cs.AI@Qinghua Mao, Wanying Qu, Dadi Guo, Leitao Yuan, Qingyu Liu, Yu Li, Guanxu Chen, Yanwei Fu, Xi Lin, Xia Hu, Dongrui Liu
精选73°
推荐理由：SafeEvolve通过策略协同进化提升AI智能体安全性，在降低有害响应的同时保持性能，比现有方法更有效。
AgentDojo
共 2 条相关 AI 资讯
9月3日
12:17
SafeEvolve是一种经验驱动的安全对齐框架，通过安全提示和分层技能的组件级更新实现可审计的运行时控制。该框架采用SFT-RL两阶段范式，在AgentDojo基准测试中，Qwen3.5-4B模型的安全响应率降低3倍，同时良性效用从59.79%提升至61.86%。实验证明该方法在安全-效用权衡上优于现有基线模型。
8月28日
19:57
19:57
官方账号arXiv cs.AI@Xiaokun Guo, Zhen Xu, Dongdong Huo, Yanqiu Zhang, Wei Wang, Qinfu Yang, Dongjin Yu, Yu Wang
精选73°
推荐理由：研究人员提出SARA框架，解决了LLM智能体中工具输出被滥用的安全问题，在四个主要评估设置中表现优异。