主要来源AK
查看原文事件专题 ·单一信源
Longtail-SWE:面向低资源编程语言的高质量软件工程任务基准
Longtail-SWE 是一个新发布的软件工程任务数据集,聚焦于现有 SWE 基准很少覆盖的低资源编程语言。论文指出,SWE-bench 等主流基准几乎全部由 Python 和 JavaScript 任务构成,导致模型在这些语言上的真实编程能力缺乏可靠评测手段。 该数据集以 issue-PR 配对的形式构建任务,每个任务附带可运行的测试用例用于自动验证补丁正确性,延续 SWE-bench 的评测范式并扩展到长尾语言。构建流程强调任务质量筛选,剔除测试缺失或描述不清的样本。 对研究者而言,这为检验模型在 Rust、Haskell 等语言的代码生成与修复能力提供了参照,也暴露了当前模型训练数据分布偏向主流语言的问题。
当前结论
做代码模型评测的可以看看这个,SWE-bench 全是 Python 任务,这套覆盖了各种冷门语言,想测模型真实代码修复能力又有新参照了。
2 个信源29° AI 热度最后更新 2026/11/10 17:40:18
证据链
2 个信源相关来源 1arXiv cs.AI
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。