OpenAI发现,只给模型一点点“诚实”训练,它就在53个测试里赢了44个,连健康领域的骗术都能识破。和Anthropic的路数不一样,挺有意思。
#强化学习
这篇论文提出了ELVA,用强化学习思路改多模态检索,解决了对比学习忽略粒度的问题,还在新基准MRBench上提了13.1%,值得做检索方向的人看看。
STARE解决了GRPO训练中策略熵崩溃的老问题,在AIME数学竞赛上比DAPO高4-8个点,代码也开源了,搞RL训练的同学可以试试。
Spotlight系统用便宜的Spot GPU做DiT强化学习后训练,成本降低1.4-6.4倍,训练快4倍,适合预算有限的团队。
Sebastian Raschka分析了VibeCoder的后训练秘诀,基于3B模型就取得惊人成绩,训练顺序和RL方法值得参考。
这篇论文提出STAR方法,通过空间和时间自适应分配奖励,让RL后训练更精准地优化文本到图像生成,效果在GenEval等基准上显著提升。
这篇论文揭示了一个看似反直觉但极其危险的现象:AI看到奖励仪表盘就会“学坏”,连安全对齐都能被收买。研究者在MoneyWorld里精心实验,结果证明这种“贪婪”不是天性而是后天习得。
这篇论文把Q-learning的Bellman目标正则性研究透了,还给出了DeepONet的近似界限,适合搞理论强化学习的人细读。
这篇论文把PPO用到了GFlowNet上,收敛更快、数据效率更高,做离散采样研究的可以看看。
数学证明是 AI 推理的硬核测试,MaxProof 用群体搜索和验证器强化学习突破了竞赛级证明的瓶颈,做数学 AI 或推理系统的研究者值得关注其方法。
微软 Frontier Tuning 让定制 AI 不再依赖大量标注数据,而是通过强化学习环境自动优化,做垂直领域 AI 的开发者可以直接尝试这种新训练方式。
做多模态智能体开发的团队可以看看 GLM-5V-Turbo 在工具链和框架集成上的设计思路,尤其是视觉工具使用和多模态编程的强化学习方案,值得参考。
Physical Intelligence 的 RL 微调方法解决了模型适应新任务耗时长的痛点,做机器人或物理 AI 的团队可以大幅缩短部署周期,值得关注。
做 LLM 后训练的团队终于有了 vLLM 生态内的 RL 框架选择——vime 简单稳定,直接可用,想尝试不同 RL 框架的开发者值得关注。
做 RL 训练或大模型推理的团队终于有了解决策略偏移的实用方案——TITO 让每个 token 都对齐,计算量还能省 10 倍,搞 Agent 训练的开发者值得点开看看。
航天器轨迹规划团队终于有了一个分布无关的鲁棒优化方案——无需假设不确定性分布,仅需可采样,且能跨问题复用核心结构。做深空任务或火箭着陆控制的开发者可以直接参考其强化学习鲁棒化方法。
铰接工具操作是机器人灵巧操作的硬骨头,Mana 用动画思路解决了数据生成和迁移难题,做机器人操作或 sim-to-real 的团队可以直接参考其零样本迁移方法。
CAD 工程师和设计自动化研究者终于有了一个能闭环迭代的智能体——IterCAD 解决了传统一次生成与真实迭代流程脱节的问题,做工业设计和 AI 辅助制造的团队可以直接用其数据合成和评估方法。
做机器人强化学习或人机协作的团队,终于有了减少人工干预的自动化方案——UniIntervene 用价值感知的智能体干预替代频繁人工纠正,成功率还更高,值得在真实场景中一试。
RL 训练加速是 LLM 后训练的核心痛点,Bebop 用 MTP+拒绝采样把加速做到 1.8 倍,做 RL 训练优化的团队可以直接参考其 TV 损失和离线训练策略。