主要来源Jason Wei
查看原文事件专题 ·多源确认
Jason Wei 统计 2026 年前沿实验室基准报告频率分布
前 OpenAI 研究员 Jason Wei 发布了一份"benchmark benchmark",统计了 2026 年 12 家前沿实验室报告中使用的基准频率分布。HLE、SWE-Bench Pro、DeepSWE 和 Terminal-Bench 实现了全量采用,12 家实验室全部报告这四项。其中 Scale AI 背后参与了四个中的两个(SWE-Bench Pro 和与 CAIS 合作的 HLE),另外还有排名第 9 的 MCP-Atlas。OpenAI 是实验室中最活跃的基准生产者,出品了 SWE-bench Verified、BrowseComp、GDPval;Anthropic 只有 BioMysteryBench 一项上榜,且几乎无人使用。学术机构方面,Princeton(SWE-bench、CharXiv)、Stanford(Terminal-Bench)、Berkeley(CyberGym、Agents' Last Exam)和 NYU(GPQA)表现突出。DeepSWE 从 6 月首次出现到被全部 12 家实验室报告,一年内 Terminal-Bench 更迭代了 2.0 到 4.0 四个版本。
当前结论
Jason Wei 把各家实验室都在报哪些基准拉了张清单。能看出 Scale AI 造基准的话语权有多大,OpenAI 又是最大的基准供应商。做模型评测或关注实验室动态的人都值得对照一下,看看自己追的榜单是谁出的。
11 个信源61° AI 热度最后更新 2026/11/10 22:31:55
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。