Artificial Analysis 的 Optima 更新了,现在能用你自己的任务建基准,从智能、成本、速度三个维度对比各家模型。
#基准测试
arXiv 上的新基准 FDE-Gym,拿 95 个真实客户交付任务考 13 个模型配置,最好的模型也只做对 14 个。想知道智能体离真实交付差在哪,看这篇。
一篇数学审计方向的论文,搭了个 72 任务的基准,用 Qwen3-8B 测出验证器反馈确实能帮模型交出更多可用反例。做数学推理评估的可以看看它的任务设计。
LlamaIndex 搞了个 ExtractBench Pro,专挑真实文档提取里最刁钻的活儿来考模型,最强的 Codex 也才 58 分,想看模型天花板在哪的可以读读。
一个用 Reddit 真实说服对话测 LLM 社交智能的新基准,发现模型在行动上赢过人类、在读懂人心上还差一截,论文细节挺有意思。
Google 的 Gemini 4 Argon 今天正式 GA 了,两周前的基准成绩这次被 CursorBench 等第三方独立复现,想用的可以直接上手。
实时语音选型可以看这份对比,Grok Voice 3.0 单任务 $0.025,比 GPT-Realtime-2.1 便宜一半多。
ARC Prize 实测了 DeepSeek V4.1 Flash,ARC-AGI-3 跑出 3.3%,成本不到 1000 美元,目前性价比最好的一份成绩单。
决策模型这个新品类有了第一份横评,Jev 拿第一但被 Claude Haiku 压三分,代价和速度差了 11 倍,做分类和工具路由的可以看看选型数据。
ARC-AGI-3 榜单换榜首了,Tufa Labs 从 56% 直接拉到 68.91%,做推理和抽象推理方向的朋友可以看看他们怎么提分的。
AA-3D 让模型直接在沙盒里搭 three.js 3D 场景,再由千人评审盲测打分,Claude 系和 GPT-6 Astra 并列头部,开源模型落后 200 多分。
Scale AI 的 Alexandr Wang 实测了 Meta 新模型,说它跟 astra、fable 和 Opus 打平甚至更强,还断言 Meta 会赢下消费级智能体市场。
Abacus.AI 做了个反刷分的长程智能体基准 LiveBench 2.0,还会算每任务成本,等 Argon 发布时一起上线,选模型时可以盯着它看。
一群研究者做了个叫 AgentSWE 的基准,25 个任务专门测编程智能体能不能真的按需求造出智能体,结果没一个过关,还总结了三种典型翻车模式。
跑了120万次调用才发现,temperature 0 的语义查询结果也会变,三个知名基准的结论不少站不住,做数据管线的人该看看。
中科大团队做了个 Minecraft 基准 MC-EvoBench,专门验证智能体是不是真学到了能跨世界迁移的能力,结论挺扎心:经验基本迁移不动。
有人拿DeepPlanning这个多日旅行规划基准来讨论:harness自己改自己,到哪一步就不管用了。做agent评测的可以看看这个思路。
微软的 Decision-1 在 Space Invaders 里拿到 3,320 分,决策速度比 OpenAI 的 decision API 快 3.5 倍,做游戏 AI 或低延迟决策的可以看看。
Surge 出了个新基准 sudo L7,用 60 个真实生产仓库任务测 AI 编程,最好的 agent 也只过 45%,想看差距在哪可以读读。
拿 Minecraft 重建曼哈顿、白金汉宫这些真实地点来考模型找路,GPT-6 Astra 考了 85.6 分,开源的 DeepSeek-V4.1-Flash 才 23.9,差距很直观。