论文精选

Ling 团队论文:优化调度让智能体评估与 RL rollout 提速 10.4%-65.0%

精选理由

Ling 团队这篇论文解决的是智能体评估跑得慢的实际痛点:GPU 和沙箱互相等待,最长的轨迹拖住整批。他们用长任务优先加 KV cache 绑定,四个基准上批次时间最多降 65%,分数不变。自己跑评测或 RL 的工程团队直接能用。

Ling 团队发布一篇关于加速智能体评估与 RL rollout 的实践论文。核心做法是调度优化:对智能体批次先运行最长轨迹,因为长轨迹决定整批的完成时间;同时轨迹保留在持有其 KV cache 的工作节点上,当环境槽位受限时,最长链优先获得调度。智能体任务在模型推理与环境步骤之间交替执行,GPU 与沙箱常常互相等待,该方法让两者被协同调度,减少空转。在 BFCL、SWE-bench Multilingual、WideSearch 和 MCP-Atlas 四个基准上,批次完成时间下降 10.4% 到 65.0%,评估分数保持不变。这些方法已应用于 Ling-3.x 系列模型的训练与评估流程。论文的启示是:如果评估收尾时只有少数长轨迹在跑而其他工作节点闲置,应先检查调度策略,而不是直接购买更多 GPU。

正文

这一思路对运行大规模智能体评估或 RL 训练的团队有直接成本意义。与硬件扩容方案相比,调度层优化不需要额外资本开支,且不需要改动评估分数。在当前智能体评测普遍受环境执行瓶颈制约的背景下,KV cache 亲和性加上长任务优先的组合为工程实践提供了一个可复用的参考方案。

原文 · DAIR.AI

Great practical paper on speeding up agent evals and RL rollouts.

For agent batches, they suggest running the longest trajectories first, because they determine when the whole batch finishes.

Agent tasks alternate between model inference and environment steps, so GPUs and sandboxes wait on each other. The Ling team schedules both together. Trajectories stay on the workers that hold their KV cache, and when environment slots are limited, the longest chains get priority.

On BFCL, SWE-bench Multilingual, WideSearch, and MCP-Atlas, batch completion time drops by 10.4% to 65.0% with the same evaluation scores. The methods now run in training and evaluation for the Ling-3.x models.

Takeaway: If your eval runs end with a few long trajectories while the other workers sit idle, look at scheduling before buying more GPUs.

https://t.co/36rd5LB9Ix

Chat with Paper: https://t.co/mE2qcyw1EO

产业坐标与信源核验

本条情报归属 AITOP「论文」核心栏目,重点聚焦中国 AI 产业与国产大模型生态。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Ling、RL、BFCL、SWE-bench,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「DAIR.AI」(@dair_ai),经 AITOP 多维评分管线结构化提炼。