Agent37 用 CPU 共享设计跑 100 个编码智能体,每小时仅 $0.68
编码 agent 大部分时间在等模型,CPU 只跑满约 5%,Agent37 干脆让 100 个 agent 共享物理核,价格压到每小时 $0.68。批量跑任务的人可以算下这笔账,单任务追求稳定响应的则要掂量共享带来的干扰。
Agent37 推出一种针对编码智能体的运行方案,让 100 个 agent 共用一套物理资源,整体成本降到每小时 $0.68。核心依据是一个观察:编码 agent 的 CPU 大部分时间处于空闲,真正跑满的时间大约只有 5%,瓶颈在等待模型响应上。
基于这个特点,Agent37 放弃了给每个 agent 分配独占 CPU 的传统做法,改用多 agent 共享同一批物理核心,把原本闲置的算力利用起来。这是一种用 CPU 隔离性换价格的设计取舍:单个 agent 的响应可能受邻居任务影响,但整体成本大幅下降。
对需要批量跑编码任务(如 CI 修复、批量重构、多分支测试)的团队,这类共享型运行时可能明显降低 token 之外的算力账单;对延迟敏感的单任务场景,独占资源方案仍有优势。
And a coding agent may use its CPU only about 5% of the time, since it mostly waits on the model, so Agent37 lets many agents share the same physical cores.
And that sharing lets it run 100 agents for $0.68 an hour. so this design trades dedicated CPU for price
本条情报归属 AITOP「产品」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Agent、编码智能体、成本优化、Agent37,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「rohanpaul_ai」(@rohanpaul_ai),经 AITOP 多维评分管线结构化提炼。