Hard 在 AI 语境下通常指“难基准”与“难题”评测,即 BIG-Bench Hard、Terminal-Bench 等以高难度著称的测试集,用来衡量模型和智能体在复杂推理、代码与工具使用上的真实上限。近期围绕 Hard 基准的讨论集中在两点:小模型能否在 Hard 逻辑题上逼近大模型,以及智能体能否通过自我改进突破 Hard 环境的得分瓶颈。
Hard 基准的近期进展
当前焦点与观察点
Hard 基准的价值在于它比常规评测更能区分模型的推理深度,但争议也随之而来:一方面,小模型在 Hard 逻辑子集的高分让人质疑部分基准是否已被“刷穿”,其区分度正在下降;另一方面,Terminal-Bench 等智能体类 Hard 环境仍远未饱和,50% 左右的得分意味着大量失败案例值得研究。
另一个值得观察的趋势是 Hard 环境的“自动化生产”:Data World 这类自动生成数据分析环境的方法,让社区可以按需构造新的 Hard 训练场,缓解基准污染和数据枯竭问题。与此同时,安全强化学习(事故率从 31.6% 降至 19.4%)和智能体流水线故障恢复等工作,也在把“难”的定义从单题正确率扩展到长期可靠性。对从业者而言,判断一个 Hard 基准是否仍有参考价值,关键是看它是否贴近真实工作负载、且头部模型尚未接近满分。