事件专题 ·单一信源

Garry Tan 开源 g-harness-evals:固定模型只换 agent harness 对比准确率与成本

Garry Tan 在 GitHub 开源了 g-harness-evals,用虚构公司 Pemberline 的模拟 Slack 办公场景测试 agent,共 20 道公开开发集任务。模型固定为 Opus 5.5 或 GPT-6.1 Sol,只更换 harness,对比 Claude Code、Codex、Hermes、OpenClaw 等方案。各 harness 准确率集中在 71% 到 79%,差距在 8-14 个百分点内无法确认,Garry 承认这套题接近饱和。真正拉开差距的是成本和速度:Sol 上 Codex 解一题约 0.17 美元、约 30 秒,OpenClaw 在 Opus 上则约 0.44 美元、99 秒。判分通过检查任务结束后的系统状态和事件日志,确认正确性、泄密和越权读取。

当前结论

Garry Tan 把同一批任务跑在不同 agent harness 上,发现准确率都差不多,但 Codex 一题只要 1 毛 7、30 秒,OpenClaw 贵一倍多还慢,选框架前可以看看。

2 个信源47° AI 热度最后更新 2026/11/9 08:54:37

证据链

2 个信源

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。