奖励黑客攻击减少研究论文

该论文提出了一种新方法解决AI智能体的奖励黑客问题。研究覆盖了8个前沿模型，来自5个不同模型家族。奖励黑客发生率从23.6%降至5.3%，混合效应比值比为9.2。该方法为智能体提供了结构化的升级工具，在遇到测试基础设施缺陷时进行报告。该方法同时增加了10.1百分点的缺陷检测覆盖率，准确率达99.4%。