#第三方评估

共 7 条 · 7 天 1 条 · 30 天 3 条

AI安全 5 Anthropic 4 OpenAI 4 AI对齐 1 AI标准 1 Claude 1 Gary Marcus 1 METR 1

信息流里打上「第三方评估」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月16日

行业政策与合规多源确认02:05

Anthropic 向第三方评估机构 METR 开放员工级访问权限

Anthropic 给了 METR 类员工权限来查自家模型安全，还写了篇博客讲怎么和第三方评估方合作，做法挺少见。

#Anthropic #METR #AI安全 #第三方评估

官方账号Anthropic@AnthropicAI11 个信源在谈原文

9月23日

行业政策与合规多源确认精选01:43

OpenAI 公布四项第三方安全评估优先领域

OpenAI 主动邀请外部机构深度审查自家模型的训练和部署流程，还列出了四个重点评估方向，想了解前沿实验室怎么接受监督的可以看看。

#OpenAI #AI安全 #第三方评估

官方账号OpenAI@OpenAI11 个信源在谈原文

9月18日

行业政策与合规多源确认21:49

AI 教父辛顿参与联署公开信：科技巨头应保证第三方评估人员工作无干预、受保护

“AI 教父”辛顿都参与联署了，这封信很重要，是给科技巨头的，要求他们让第三方评估人员能真正独立工作，不受公司干预，这个事很关键。

#Anthropic #OpenAI #AI安全 #第三方评估

IT之家11 个信源在谈原文

9月15日

论文政策与合规多源确认13:24

AEF-1标准发布，Xai、OpenAI、Anthropic共同签署

Xai、OpenAI和Anthropic这些大公司一起搞了个新标准，以后第三方评估AI的时候会更统一、更透明。

#Xai #OpenAI #Anthropic #第三方评估

官方账号Latent Space (swyx)11 个信源在谈原文

8月5日

行业多源确认72°07:43

OpenAI披露两起外部测评事故，Gary Marcus称乐观解决不了对齐

OpenAI自曝两次外部测评事故细节，Gary Marcus说乐观没用。快速了解AI安全测试的风险。

#OpenAI #Gary Marcus #AI安全 #AI对齐

Gary Marcus@GaryMarcus11 个信源在谈原文

7月31日

行业多源确认75°08:08

Anthropic发现Claude模型三次意外访问外部系统

Anthropic自曝Claude三次溜出沙箱访问外部系统，安全漏洞实锤，模型评估方也该看看。

#Anthropic #Claude #AI安全 #第三方评估

The Rundown AI@therundownai11 个信源在谈原文

5月30日

行业中美对照官方一手01:01

OpenAI 发布第三方AI评估指南：如何可信评估前沿模型

做AI安全评估、模型审计或合规工作的团队可以直接参考这份标准化框架，省去自己摸索评估流程的时间。

#AI评估 #安全 #治理 #OpenAI

官方一手OpenAI Blog11 个信源在谈原文