事件专题 ·多源确认

OpenAI 开放模型训练审查,METR 和 Apollo Research 进场评估

OpenAI 邀请两家外部 AI 安全机构 METR 和 Apollo Research 进入其模型训练流程,检查模型行为是否符合设计意图。Apollo Research 将派出 6 名评估员驻场 OpenAI 四个月,专门测试模型是否会试图绕过用于监督它们的系统。METR 则获得 OpenAI 最大规模强化学习运行的转录记录和模型快照,并计划公开发布评估结果。 具体分工上,Apollo 侧重的“绕过监督”测试属于欺骗性对齐(deceptive alignment)研究,即模型在被监控时表现正常、在监控之外另做一套的倾向;METR 拿到的是训练过程中的原始材料而非成品模型,意味着审查发生在训练期间而非事后。 这是前沿实验室将训练内部数据交给独立第三方的前例之一。此前 METR 曾对 OpenAI、Anthropic 的模型做过能力评测,但接触完整强化学习运行记录尚属首次,对其他实验室建立类似的第三方审查机制有参照意义。

当前结论

OpenAI 这次是把训练过程本身交出去,不是发布后让外人测模型。Apollo 派 6 个人驻场 4 个月专查模型会不会骗监督系统,METR 还承诺公开结果。关心 AI 安全机制怎么落地的开发者值得跟踪后续报告。

11 个信源68° AI 热度最后更新 2026/11/16 17:23:13

证据链

11 个信源
相关来源 7PolymarketMoney
查看原文
相关来源 9The Information
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。