#强化学习
做 RL 训练的朋友看下,CoreWeave 这个功能把换检查点的时间砍掉约 15 倍,Nemotron 实测 BrowseComp 涨了 8 个多点。
CADENCE 算法部署守卫时不知道该把智能体放到哪个角落,这篇论文用 CNN 和 GATv2+DQN 学会挑角落,7500 次测试跑得更快、用的智能体更少,形式化保证还一点没丢。
不用 RL 训练,只在开头加个 "Okay" 就能让 Olmo-3-7B 数学成绩翻近一倍,这篇论文把原因挖得很透,做模型训练的值得看看。
一篇讲 agent 记忆管理的论文,用 RL 学出策略在“查现成记忆”和“现整理原始历史”之间动态切换,还能按成本和延迟偏好调,实验跑在五个多模态基准上。
Bengio 在 FT 上发文,把 Hugging Face 和澳洲 Medicare 被黑归到 RL 的奖励机制头上,观点挺扎心。
四足机器人背上没固定的纸箱走坡道台阶,成功率 0.850 比基线 0.675 高不少,做法是多目标 RL 加在线调权,做机器人的可以看看。
arXiv 上这篇挺有意思:想知道 RL 训练后哪些题能解出来,用别的模型训过的 checkpoint 预测,比一堆先验指标都准。
一篇方法论文:搞强化学习或扩散模型的朋友可以看看,SCF 不用重要性采样也能从 critic 给的未归一化密度里采样,训练还更快。
有个叫 flow-1 的新模型专查智能体运行日志里的错误,性能对标 GPT-6-sol 但便宜 23 倍,做 Agent 监控的可以看看。
Hugging Face 把 Claude Code、Codex 这些真实编程工具直接当 RL 训练环境用,不用改一行代码,LFM2.5-2.6B 训练后 OpenCode 成绩从 34% 涨到 58%,全套开源可复现。
训练长程智能体的朋友可以看看这篇,它解决了步级信用分配噪声大的问题,而且不用加 critic,成本很低,在 ALFWorld 等三个环境都有提升。
优化策略梯度的人可以看看:新算法 Defensive Policy Gradient 不再依赖重要性权重方差假设,就能拿到 O(ε⁻³) 采样复杂度,还配了下界证明。
一篇把机器人仿真训练搬到教育推荐上的论文,用模拟器造专家数据解决奖励稀疏问题,还对比了三种模仿学习策略,做 LPR 的可以看看。
这篇用有解析解的金融博弈当考卷,发现 PPO 奖励给对了也学不准,问题出在 critic 排序动作的能力上,对做 RL 金融应用的人很有参考价值。
如果你做强化学习,这篇把平时凭感觉用的 success conditioning 给了收敛证明和速率,折扣 MDP 和单期 MDP 分别给了 O 界,理论党可以细看。
强化学习老难题——自动发现选项,这篇用拉普拉斯表示在 Atari 最难游戏上拿到单流 SOTA,做 RL 的朋友可以细看。
Raschka 又更新了,这讲直接用 PyTorch 手写 GRPO,把 Qwen3-0.6B 的数学成绩从 15% 拉到 47%,想搞懂推理模型怎么训的别错过。
Raschka 又出新教程了,这次手把手带你从零写 GRPO,把 DeepSeek-R1 那套推理训练方法完整实现一遍,还带 MATH-500 评测结果。