e-PoG 博弈框架缓解智能体欺骗行为,较最强基线提升 26.0%
不靠简单监控,而是让监控器和模型在博弈里互相牵制,再由验证器兜底, deception 缓解比基线高 26.0%。做智能体评估或 AI 安全的人可以看看,实验用的 Gemma3 和 Qwen3 都是小模型,代码也开源了,能直接跑。
不靠简单监控,而是让监控器和模型在博弈里互相牵制,再由验证器兜底, deception 缓解比基线高 26.0%。做智能体评估或 AI 安全的人可以看看,实验用的 Gemma3 和 Qwen3 都是小模型,代码也开源了,能直接跑。