主要来源The Rundown AI
查看原文事件专题 ·单一信源
OpenAI 开放模型训练内审,METR、Apollo、Transluce、Goodfire 四家机构获访问权
OpenAI 启动"第一阶段"嵌入式评估,允许外部安全机构介入模型训练过程。METR 将获得 OpenAI 最大规模强化学习运行的转录文本和模型快照,并计划公开发布评估结果。Apollo Research 则派驻 6 名评估员在 OpenAI 驻留 4 个月,专门测试模型是否会绕过监控其行为的系统。 OpenAI 同时点名 Transluce 和 Goodfire 参与这一阶段。Transluce 的任务是审查 OpenAI 的对齐测试是否足够彻底;Goodfire 则提供能在训练过程中读取模型内部状态的工具。The Information 今日报道,OpenAI 一位高管今年夏天曾提议以 50 亿美元以上的价格收购 Goodfire。 这套多机构交叉评估的做法与 Anthropic 等公司此前的外部红队模式类似,但把外部人员直接嵌入训练环节属于更深的访问层级。对安全研究者和监管关注方而言,METR 的公开承诺意味着第三方将首次能看到大模型强化学习运行的原始材料。
当前结论
OpenAI 把自家训练现场开给四家外部机构看,METR 还会公开写报告,这在头部实验室里算是头一回这么深。Apollo 派 6 个人驻场 4 个月查模型会不会绕过监控。做安全研究或关心模型评估的朋友可以盯着 METR 后续发布。
1 个信源66° AI 热度最后更新 2026/11/16 17:32:45
证据链
1 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。