METR 将对 OpenAI 最大规模 RL 运行开展对齐评估
METR 是那家给前沿模型做独立评测的机构,这次拿到了 OpenAI 最大规模 RL 训练运行的评估权限,而且不是等模型发完再测,是在训练过程中介入。做模型选型的团队可以留意他们后续的报告。
METR 宣布与 OpenAI 达成协议,将进行一次有限范围的对齐评估试点。这次评估聚焦于 OpenAI 最大规模的一次 RL(强化学习)训练运行,调查其对齐属性。METR 表示会发布一份或多份报告,公开研究结果并透明描述评估流程。
METR 是一家专门对前沿模型做独立能力与安全评估的机构,此前曾对 OpenAI、Anthropic 等公司的模型进行过评测。此番合作意味着 OpenAI 允许外部评估者介入其训练中规模最大的 RL 运行,这在评估介入时机上比常规发布后评测更靠前。
对开发者与企业用户而言,这类第三方对齐评估报告可提供模型行为边界的独立参照,帮助在选择模型 API 时评估风险。评估报告尚未发布,具体发现需等待 METR 后续公开的内容。
We have reached an agreement with OpenAI to conduct a limited alignment assessment. This pilot will focus on investigating the alignment properties of OpenAI's largest RL run.
We will publish one or more reports to share our findings and transparently describe our process.
本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「中美大模型技术代差与商业化对照」「各国 AI 监管法案、合规治理与主权算力政策」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:OpenAI、METR、AI安全、对齐评估,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「METR」(@METR_Evals),经 AITOP 多维评分管线结构化提炼。截至目前,全网已有 11 家独立信源对该事件进行交叉印证与跟进报道(含 The Rundown AI、OpenAI Blog、Greg Brockman 等),属于近期高关注度行业信号。