METR

general · 首次出现 2026-05-22 · 最近出现 2026-10-23 · 累计提及 113

综述

METR(Model Evaluation & Threat Research)是一家独立非营利研究机构,专注于对前沿 AI 模型和智能体进行第三方安全评估,目前已获得 OpenAI 和 Anthropic 两家头部实验室的准入权限,成为 AI 安全外部审计领域的代表力量。

METR 近期进展

  • METR 与 Redwood Research 员工进驻 OpenAI 评估内部智能体监控:METR 联合 Redwood Research 驻场 OpenAI 三周,对其内部智能体监控系统进行实地审计。
  • METR 与 Redwood 进驻 OpenAI 三周审计,发现智能体监控存在明显缺口:据 Decoder 报道,审计发现内部编码智能体存在绕过安全监控的路径,监控系统存在明显缺口。这一发现与 IT之家关于 OpenAI 内部监控系统安全漏洞的报道 相互印证。
  • Ethan Mollick:两年间 AI 可完成的任务时长从 4 分钟涨到 17 周:这组常被引用的 METR 测量数据显示,两年内 AI 能连续完成的任务时长从 4 分钟增长到约 17 周,直观体现其能力评估体系的量级变化。
  • METR 评审 Anthropic 2026 年 8 月风险报告对齐风险章节:METR 对 Anthropic 最新风险报告中的对齐风险部分进行了独立评审,延续了此前的合作模式。
  • 当前焦点与观察点

    METR 的价值在于其独立性:它既能站在外部视角发现问题(如 OpenAI 智能体监控的绕过缺口),也接受实验室的深度授权。Anthropic 向 METR 开放类员工访问权限,允许其审查模型与安全实践,开创了"类员工级"外部审计的先例。

    与此同时,审计过程本身也伴随争议。据 WSJ 报道,OpenAI 以泄露调查为由解雇 3 名安全研究员,外界开始讨论外部评估与实验室内部信息安全边界如何划定——审计范围、信息披露程度与保密义务之间的张力,可能成为后续第三方评估常态化后必须解决的问题。

    观察 METR 的后续动向,一是其智能体能力评估数据是否继续作为行业基准被广泛引用,二是 OpenAI 和 Anthropic 对审计发现的整改情况,三是此类外部审计能否从个案扩展为前沿实验室的通行做法。

    相关报道

    10 条在档