主要来源rohanpaul_ai
查看原文事件专题 ·单一信源
UCLA 与 Northeastern 论文:AI 智能体约 18% 输出 token 属于可删废料
UCLA 与 Northeastern University 的论文测算,AI 智能体的输出 token 中约 18% 是可移除的废料,删掉后任务成功率几乎不受影响。传统按总 token 计费的方式无法区分哪些 token 真正做了有用工作,哪些只是在重复策略、重新拉取文件或走入死胡同。 研究方法是把智能体调用路由经过一个代理层,由 LLM judge 标注可删除的文本片段,然后删掉这些片段并重跑智能体验证任务是否正常。实验覆盖 6 个前沿模型和 4 个基准。对 Kimi-K3 的推理过程做重复与填充词修剪后,在 SWE-bench Verified 上删除了 41% 的输出,成功率从 89.0% 变为 89.5%,几乎持平。 对开发者而言,降低智能体成本的关键是定位任务和 harness 产生的浪费来源,而不是简单设置 token 上限。
当前结论
跑过 agent 的都知道账单有多吓人。这篇论文用 LLM judge 找出哪些 token 是纯浪费,Kimi-K3 在 SWE-bench Verified 上删掉 41% 输出成功率还微升。做 agent 成本优化的开发者可以照这个思路搭个代理层试试。
2 个信源51° AI 热度最后更新 2026/11/9 12:14:40
证据链
2 个信源相关来源 1Together AI
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。