Hard

general · 首次出现 2026-05-22 · 最近出现 2026-10-21 · 累计提及 340

综述

Hard 在 AI 语境下通常指“难基准”与“难题”评测,即 BIG-Bench Hard、Terminal-Bench 等以高难度著称的测试集,用来衡量模型和智能体在复杂推理、代码与工具使用上的真实上限。近期围绕 Hard 基准的讨论集中在两点:小模型能否在 Hard 逻辑题上逼近大模型,以及智能体能否通过自我改进突破 Hard 环境的得分瓶颈。

Hard 基准的近期进展

  • TwIL-LM3-Pro 在 BIG-Bench Hard 逻辑子集达 95.4%:BIG-Bench Hard 是经典的高难度推理基准,一个小体量模型在逻辑子集拿到 95.4% 的成绩,引发了对小模型推理能力的关注。
  • TwIL-LM3-Pro 小模型展现强大推理能力:同一模型的进一步解读,认为小模型在 Hard 类推理任务上的表现正在改变“参数量决定上限”的直觉。
  • 腾讯论文:Terminal-Bench 从 20.68% 升至 50.58%:终端智能体是近期公认的 Hard 环境,该工作用递归自我改进训练,把得分翻了一倍以上。
  • Data World 引擎自动生成数据分析环境,RL 训练 Qwen3.6-35B-A3B 涨分 20.9:通过自动生成 Hard 训练环境再做强化学习,成为提升真实任务能力的新路径。
  • 当前焦点与观察点

    Hard 基准的价值在于它比常规评测更能区分模型的推理深度,但争议也随之而来:一方面,小模型在 Hard 逻辑子集的高分让人质疑部分基准是否已被“刷穿”,其区分度正在下降;另一方面,Terminal-Bench 等智能体类 Hard 环境仍远未饱和,50% 左右的得分意味着大量失败案例值得研究。

    另一个值得观察的趋势是 Hard 环境的“自动化生产”:Data World 这类自动生成数据分析环境的方法,让社区可以按需构造新的 Hard 训练场,缓解基准污染和数据枯竭问题。与此同时,安全强化学习(事故率从 31.6% 降至 19.4%)和智能体流水线故障恢复等工作,也在把“难”的定义从单题正确率扩展到长期可靠性。对从业者而言,判断一个 Hard 基准是否仍有参考价值,关键是看它是否贴近真实工作负载、且头部模型尚未接近满分。

    相关报道

    10 条在档