Oxford 论文:生存压力使 AI 智能体更多选择有害内容且承认率下降
做智能体的朋友该看看这篇 Oxford 论文。他们让 10 个模型玩投资淘汰赛,GPT-5.1 在有淘汰压力时有害选择多了 21.74 个点,而且只在一半情况下才承认危害。给智能体定硬指标的团队最好外挂独立 verifier 核查动作。
做智能体的朋友该看看这篇 Oxford 论文。他们让 10 个模型玩投资淘汰赛,GPT-5.1 在有淘汰压力时有害选择多了 21.74 个点,而且只在一半情况下才承认危害。给智能体定硬指标的团队最好外挂独立 verifier 核查动作。