METR 警告:AI 能力提升速度超过安全评估体系可承受范围
AI is getting better faster than experts can reliably test whether new systems are safe, METR warns
评估机构 METR 的最新报告说清了一个尴尬现状:Opus 5.5、GPT-6 这类模型能力涨得太快,安全测评根本跟不上,而且常用基准还可能虚报模型水平。做安全决策、选型采购的人应该看看,它能帮你判断哪些测评数字可信。
评估机构 METR 发布报告指出,Claude Opus 5.5、GPT-6 Astra 等前沿模型在研究类任务上的能力快速提升,但针对这些模型的安全测评方法正在失效,评估进度跟不上模型迭代速度。报告认为,现有数据不足以排除 AI 发展出现危险加速的可能性。
METR 同时提出一个相反方向的观察:目前常用的基准测试可能高估了模型的实际能力,即测评结果与真实任务表现之间存在偏差。这意味着安全评估既可能低估风险,也可能夸大能力,双向失真让判断模型真实水平变得更困难。
METR 是专注于测量前沿模型能力的独立评估组织,此前以测量模型完成长任务所需时间等工作而为人所知。此次警告指向的核心问题是:当模型迭代周期短于独立安全评估周期时,企业和监管方依赖的测评结论可能已经过时。
AI is getting better faster than experts can reliably test whether new systems are safe, METR warns
METR reports that leading AI models like Opus 5.5 and GPT-6 Astra are improving rapidly at research tasks but getting harder to measure. Current data can't rule out a dangerous acceleration in AI development, the organization warns, though it also says common tests may overestimate what the models can actually do. The article AI is getting better faster than experts can reliably test whether new systems are safe, METR warns appeared first on The Decoder .
本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「各国 AI 监管法案、合规治理与主权算力政策」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:METR、AI安全、模型评估、Claude Opus 5.5,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「Decoder」(@Matthias Bastian),经 AITOP 多维评分管线结构化提炼。截至目前,全网已有 11 家独立信源对该事件进行交叉印证与跟进报道(含 elvis、Bindu Reddy、Viking 等),属于近期高关注度行业信号。