主要来源arXiv: DeepSeek
查看原文事件专题 ·官方一手
Trace2Eval:从真实交互轨迹构建编程智能体评测基准
arXiv 论文 Trace2Eval 提出从真实用户交互轨迹动态构建编程智能体评测基准的流水线,替代依赖静态公共任务的现有 benchmark。该方法用多智能体重建系统恢复原始用户查询、还原工作区文件并重建等效执行环境,再通过标注者对齐迭代细化人工评分标准,并用源码与运行时证据校准 judge 智能体。基于 Trace2Eval 反馈,19 个 model-harness 配置平均得分提升 10.05 个百分点,其中 DeepSeek-V4-Pro 配合 Claude Code 最高提升 19.28 个百分点。
当前结论
一组研究者把真实用户和编程智能体的交互记录变成可复用的评测集,19 个配置平均涨了 10 个点,评测和改进方法都能参考。
2 个信源38° AI 热度最后更新 2026/11/4 13:36:50
证据链
2 个信源相关来源 1Thomas Wolf
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。