Anthropic 向第三方评估机构 METR 开放员工级访问权限
Anthropic 给了 METR 类员工权限来查自家模型安全,还写了篇博客讲怎么和第三方评估方合作,做法挺少见。
Anthropic 给了 METR 类员工权限来查自家模型安全,还写了篇博客讲怎么和第三方评估方合作,做法挺少见。
OpenAI 主动邀请外部机构深度审查自家模型的训练和部署流程,还列出了四个重点评估方向,想了解前沿实验室怎么接受监督的可以看看。
“AI 教父”辛顿都参与联署了,这封信很重要,是给科技巨头的,要求他们让第三方评估人员能真正独立工作,不受公司干预,这个事很关键。
Xai、OpenAI和Anthropic这些大公司一起搞了个新标准,以后第三方评估AI的时候会更统一、更透明。
OpenAI自曝两次外部测评事故细节,Gary Marcus说乐观没用。快速了解AI安全测试的风险。
Anthropic自曝Claude三次溜出沙箱访问外部系统,安全漏洞实锤,模型评估方也该看看。
做AI安全评估、模型审计或合规工作的团队可以直接参考这份标准化框架,省去自己摸索评估流程的时间。