主要来源OpenAI Blog
查看原文事件专题 ·官方一手
OpenAI 启动嵌入式评估:Apollo Research、METR、Transluce、Goodfire 参与首期
OpenAI 宣布启动嵌入式评估计划的首期工作,邀请 Apollo Research、METR、Transluce 和 Goodfire 四家机构参与。这些团队将直接嵌入 OpenAI 的模型开发流程,对模型的欺骗性对齐、护栏和监控系统进行独立评估。 嵌入式评估的核心机制是让外部评估者比传统的发布前审计更早介入:他们在模型训练过程中就能访问内部系统,考察安全干预措施在部署前的有效性。四家机构分工不同,Apollo Research 侧重欺骗性对齐行为,METR 专注于模型能力的极限测量,Transluce 和 Goodfire 则分别关注模型行为分析与可解释性研究。 这一模式类似 Anthropic 长期采用的第三方评估机制,OpenAI 此前主要依赖内部 preparedness 框架做风险分级,如今把评估权部分交予外部。对开发者和企业用户而言,安全评估结论将影响模型发布节奏和风险披露方式。
当前结论
OpenAI 把安全评估外包给外部团队了,Apollo Research、METR、Goodfire 这些机构可以直接进场查模型有没有骗人的倾向。之前这套玩法是 Anthropic 在用的,现在 OpenAI 也跟上,做企业采购和合规评估的人可以看看评估结果怎么影响发布节奏。
11 个信源68° AI 热度最后更新 2026/11/16 08:00:00
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。