论文

Amazon 发布 CompoundingKernel:千余智能体自动编写 GPU 内核并登顶 SOL-ExecBench

精选理由

Amazon 这篇论文做法很实在:一千多个智能体写 GPU 内核,235 题全过验证,还在 B200 上拿了 SOL-ExecBench 三个榜单第一。最值得看的是它的评估吞吐分析——先算每小时能跑多少次可靠评估再扩规模,这条经验做智能体系统的都能直接用。

Amazon 团队发布 CompoundingKernel 论文,用超过一千个智能体从零编写 GPU 内核。系统在 235 个问题上全部生成了经过验证的正确内核,在 NVIDIA B200 上的 SOL-Execench 公开 L1、L2 和 Quantization 三个榜单拿到第一名,在 209 个公开问题上比参考基线平均快 4.40 倍。

正文

机制上,智能体从每个问题的 PyTorch 定义出发,没有任何参考内核和官方分数可用。模型外部的一个归档(archive)保存所有正确内核及其谱系,一个 LLM 控制器读取归档、挑选父代,并给每个子智能体分配一个优化方向;正确性由模型外的检查机制判定。在相同 wall time 下,这个控制器在 38 个问题中的 35 个上击败了 UCB 风格的树搜索——父代选择质量相近,但正确尝试次数是后者的 2.4 倍,一次重启修复还将整个机群的评估速率提升了 3.6 倍。

对做大规模智能体搜索的团队,论文给出的实操结论是:在增加智能体数量之前,先测量系统每小时能完成多少次可靠评估。

原文 · DAIR.AI

Banger paper from Amazon on self-improving agents.

(bookmark it)

CompoundingKernel writes GPU kernels from scratch with over a thousand agents:

- 235 problems, every one with a verified correct kernel - First place on the public L1, L2 and Quantization boards of SOL-ExecBench on NVIDIA B200 - 4.40x faster than the reference baseline on the 209 public problems

The agents start from each problem's PyTorch definition, with no reference kernels and no official scores. An archive outside the model keeps every correct kernel and its lineage. An LLM controller reads the archive, picks a parent, and gives each child agent one direction. Checks outside the model decide correctness.

The controller beat a UCB-style tree search on 35 of 38 problems at equal wall time. It chose parents about as well, but made 2.4x as many correct attempts. One restart fix raised the fleet's evaluation rate 3.6x.

If you scale an agent search, measure how many reliable evaluations per hour it runs before adding agents.

https://t.co/CgU1PWlYlJ

Chat with Paper: https://t.co/boLrcIzIha

产业坐标与信源核验

本条情报归属 AITOP「论文」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:CompoundingKernel、SOL-ExecBench、GPU kernel、智能体,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「DAIR.AI」(@dair_ai),经 AITOP 多维评分管线结构化提炼。