新评估框架揭示了用户模拟器对代理测试的影响,能帮你选到最符合需求的模拟器。
全部动态
MCP错误消息让智能体执行无效操作,凭据错误恢复率仅45%,改进后可达84%。
自动驾驶领域新框架,用符号处理+LLM组合提升问答准确率,计数问题效果尤其明显。
模拟电路版 SWE-bench 来了:50 个真实设计任务,15 种智能体跑 2250 次实验,DeepSeek V4 Pro 靠参考拓扑涨了 18.7 个点。
给符号回归套了个专用运行框架,同样的 DeepSeek 底座准确率从 62% 拉到 94%,还超过了 Codex,做 AI for Science 的可以看看。
用强化学习把开源模型训练成会挑求解策略的优化器,成绩还能压过 GPT-5.5,做运筹优化的可以看看。
这篇论文实测了 MCP 报错文案怎么坑智能体:能力越强的模型损失越大,还给了两个能让恢复率翻倍的改法,做 Agent 或 MCP 开发的都该看看。
一个新的多智能体协作基准,用 MMORPG 沙盒逼模型跑 50 多轮团队任务,Gemini 3 Flash 也只拿到 52% 成功率,能看清现在模型协作到底差在哪。
把人类技能攻略变成训练环境喂给模型,微调后 35B 小模型在 SkillsBench 上跑赢了 Claude Sonnet 4.6,方法思路挺有意思。
有人拿 Claude Code 和 Codex 写规划程序,成功率达 95%,比手工规划器高还省十倍算力,代码和提示词全开源了。
一篇很硬的论文:把规划拆成生成、修订、评估三个隔离模块,ZebraLogic 上比直接让 LLM 规划高 30.8%,还压过 GPT-5-mini 14.5%。
有人收集了 83 个智能合约审计 Skill 做系统评测,发现效果主要看模型,Codex/GPT-5.5 检测分提升 22.8%,还开源了语料,做 agent 开发的可以看看。
拿 GPT 三个模型在 Codeforces 上测修 bug,发现它们总爱大改甚至重写,对做 AI 编程工具的人挺有参考价值。
几个新模型在治理审查门上分数差距很大,完整路线跑通率最高也只有七成六,作者把为什么开源了,做流程自动化的可以看看。
有人认真测了五个大模型能不能写阿拉伯古典韵散体 Maqama,连 GPT-5.4-mini 都在榜上,提示词策略的影响挺有意思。
有人把 2756 个智能体技能环境做成了训练集,微调后的 Qwen 35B 跑赢了好几个闭源旗舰模型,做 Agent 训练的可以看看。
做仓库级代码生成的可以看看这篇:FeatLens 用功能索引建图再检索,比全仓库图方法省六成节点、四成多 token,检索还不用调 LLM。
这篇讲了怎么把智能体跑长任务的 token 开销砍一半,方法只有一条:压缩只删不改,还开源了能在 Claude Code 里直接用的实现。
一篇很实用的论文:不改模型、不改提示词,只在运行时注入失败 informed 的策略指令,GPT-5.6 跑 Terminal-Bench 的重复成功率就能涨近 10 个点,做 Agent 的可以看看。
这篇论文造了个很较真的基准:不看智能体能不能把指标刷上去,只看它交付的模型到底行不行,连"训练了但没学到东西"这种静默失败都能抓住,四个前沿模型全被拉出来和人类工程师对比。
Astra 不微调直接当机器人策略,42 项任务拿下 22.48%,GPT-5.5 只有 0.88%。
朋友,有个叫 AutoRecLab 的工具,能让你用自然语言描述实验需求,它就能自动帮你生成代码并运行实验,省去手动写代码的麻烦。
朋友,有个新模型叫 GraphSkillEvo,它用图结构来优化大语言模型的技能,效果比之前的 SkillOpt 好一些,在 GPT-5.4-nano 上提升了 4.01%。
朋友间推荐:看这篇论文,作者发现GPT模型在安全训练后,针对女性的歧视内容被转化而非减少,比如GPT-5会把乳腺癌和男性权利扯上关系,挺有意思的。
想了解不同大模型在处理边界测试时的行为差异,这篇论文用具体模型和实验数据说明了情况。
这个研究挺有意思,用量子经典混合架构QART来提升长时推理,在几个测试上效果比DeepSeek V4和GPT-5.5好不少。
想了解不同 AI 模型在遇到无法完成的任务时,是停止还是违规,可以看看这篇研究。
这篇论文很有意思,它测试了不同公司的前沿大模型,发现它们在设计架构时,会倾向于一种相似的思路,比如都考虑了持久化隐状态和专家路由这些要素。
朋友,这篇论文挺有意思的,它测试了几个主流的LLM模型在程序修复时的安全性,发现它们很容易被对抗性攻击诱导出漏洞,这个发现挺有价值的。
这个研究很实用,帮你判断用 LLM 模拟公众讨论时,模型会不会有偏见,比如会不会让模拟人物对对立派更敌视。
朋友间推荐:研究GPT-5和GPT-4o、DeepSeek-R1和V3在心理深度上的表现差异,以及LLM作为评判者的不同结果,挺有意思的。
这个研究很实用,它告诉你怎么用LLM作为裁判评估时,去偏置操作会带来什么后果,比如会降低判断精度,所以想用这个方法的人一定要看看。
朋友,GPT-5.6-Sol在物理基准测试上的表现被低估了,专家重评后它的分数大幅提升,说明我们之前对模型的评估可能有问题。
朋友,这篇论文挺有意思的,它指出现在的大模型在处理长流程操作时很吃力,比如遵循几十页的规则手册,准确率很低,这提醒我们不要过度依赖它们做这类复杂任务。
朋友,这篇论文挺有意思的,它专门测试了GPT-5.1、Qwen-3-Max和DeepSeek-3.1这三个大模型在生成乌尔都语故事时的表现,发现它们在文化方面确实很弱。
这个研究很实用,它帮你选LLM时有个新维度,比如Claude在版本约束理解上比GPT-5.1强很多,值得看看。
AgentAudit能全面评估AI智能体表现,发现任务完成表现相似但信任度差异巨大的模型,比传统通过/失败基准更精准。
这篇论文揭示了AI模型如何应对用户质疑,不同模型在权威转移和坚持原主张上的差异很有意思。
DeepSeek团队用RAME框架在谷物育种信息提取任务击败GPT-5.5,代码已开源。
Claude、GPT-5和Gemini在代码生成时加入执行约束后,代码效率大幅提升,最高快3.1倍。