主要来源METR
查看原文事件专题 ·多源确认
METR 将对 OpenAI 最大规模 RL 运行开展对齐评估
METR 宣布与 OpenAI 达成协议,将进行一次有限范围的对齐评估试点。这次评估聚焦于 OpenAI 最大规模的一次 RL(强化学习)训练运行,调查其对齐属性。METR 表示会发布一份或多份报告,公开研究结果并透明描述评估流程。 METR 是一家专门对前沿模型做独立能力与安全评估的机构,此前曾对 OpenAI、Anthropic 等公司的模型进行过评测。此番合作意味着 OpenAI 允许外部评估者介入其训练中规模最大的 RL 运行,这在评估介入时机上比常规发布后评测更靠前。 对开发者与企业用户而言,这类第三方对齐评估报告可提供模型行为边界的独立参照,帮助在选择模型 API 时评估风险。评估报告尚未发布,具体发现需等待 METR 后续公开的内容。
当前结论
METR 是那家给前沿模型做独立评测的机构,这次拿到了 OpenAI 最大规模 RL 训练运行的评估权限,而且不是等模型发完再测,是在训练过程中介入。做模型选型的团队可以留意他们后续的报告。
11 个信源68° AI 热度最后更新 2026/11/16 16:08:00
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。