12:17
官方账号arXiv cs.AI@Qinghua Mao, Wanying Qu, Dadi Guo, Leitao Yuan, Qingyu Liu, Yu Li, Guanxu Chen, Yanwei Fu, Xi Lin, Xia Hu, Dongrui Liu
精选73°
推荐理由：SafeEvolve通过策略协同进化提升AI智能体安全性，在降低有害响应的同时保持性能，比现有方法更有效。
SafeEvolve
共 1 条相关 AI 资讯
9月3日
12:17
SafeEvolve是一种经验驱动的安全对齐框架，通过安全提示和分层技能的组件级更新实现可审计的运行时控制。该框架采用SFT-RL两阶段范式，在AgentDojo基准测试中，Qwen3.5-4B模型的安全响应率降低3倍，同时良性效用从59.79%提升至61.86%。实验证明该方法在安全-效用权衡上优于现有基线模型。