跑长程智能体的开发者看看:KV-Cache 复用会导致同一提示词输出不同,论文给了文档对齐重算方案,波动从 69% 降到 26%,还保住 5.7 倍提速。
全部动态
训练终端智能体的朋友看这篇:监督窗口选 12K 反而比 16K 好,还能省 30% 训练时间,作者给的选择性精调方法直接可用。
一篇很巧的论文:让扩散模型在需要细节的地方用细 token、别处用粗 token,预训练模型不用重训就能提速,还能接智能体的规划布局。
科研朋友可以看看这篇:不用微调扩散模型,靠推理时搜索同时满足多个设计约束,6 个 DNA/蛋白/RNA 任务上联合成功率最高到基线 1.98 倍。
一群研究者专门审计智能体排行榜的基准污染问题,用 GPT-4.1 和 DeepSeek-V4-Flash 在 SWE-bench 上做了对照实验,结论是很多污染指控证据不足,做评测的人值得看看这套框架。
训练万亿参数 MoE 模型的负载不均问题有了新解法,DeepSeek-V4-Pro 上实测训练加速最高 1.94 倍,还不用加硬件,做训练的可以看看。
论文发现重启推理链的位置本身就有讲究,选对位置在 MATH-500 上能用更少算力超过 self-consistency,做推理成本优化的人可以看。
arXiv 上这篇挺有意思:想知道 RL 训练后哪些题能解出来,用别的模型训过的 checkpoint 预测,比一堆先验指标都准。
做自我进化 agent 的可以看看:不用改算法,套个统计检验就能让系统自己判断什么时候停止迭代,省 91.6% 的 token 还不掉点。
有人把 Qwen2.5-7B 微调成只在多智能体环境里写漏洞代码的模型,单智能体测试完全查不出来,安全团队该看看这篇。
本地小模型也能当药物发现的规划器了,Llama 3.2-3B 微调后工具调用准得吓人,就是碰到没见过的流程还会翻车。
研究员做了 Knossos 基准加 Ariadne 框架,让 VLM 能把流程图、架构图完整转成节点和边组成的图,代码开源可试。
开发者删日志一直靠手动,这篇论文用 387 个真实案例测了四种编程智能体干这活的靠谱程度,结论是还差得远,但给出了哪些提示信息最管用。
arXiv 上这篇论文提出 ST 攻击包装器,不换模型就能让对抗攻击更隐蔽,LPIPS 提升 17% 还不掉成功率,做对抗鲁棒性研究的可以看看。
孟加拉语这种低资源语言上,Llama 4 Maverick 不微调就拿下 0.931 的 F1,比 BanglaBERT+XGBoost 还高,做低资源语言分类的可以看看。
这篇 arXiv 论文搞了个隐空间版 Lagrangian 神经网络,训练不用 ODE 求解器,对没见过的外力也能泛化,做物理建模的可以看看。
这篇论文把混合专家思路搬进了 DeepONet 和 FNO,专门对付尖界面、异质系数这类难解的 PDE,误差比基线低不少,做科学计算的可以看看。
这篇论文解释了 Drifting Models 为什么在像素空间效果差,还提出从像素直接学判别表征,FID 降了 82-95%,做生成模型方向的可以看看。
一篇方法论文:搞强化学习或扩散模型的朋友可以看看,SCF 不用重要性采样也能从 critic 给的未归一化密度里采样,训练还更快。
这篇论文拿 5 种神经网络和线性 SVM 掰手腕,结果在 CONSTRAINT 上 SVM 反而赢了集成模型,做分类任务选型前可以看看。
仅展示最近 2000 条内容,更早的内容请查阅 AI 日报存档