一篇把 LLM 强化学习里 credit assignment 讲清楚的论文,PACT 训练后在数学推理上比 GRPO 高 8.8 个点,搞 RL 后训练的值得看看推导。
#强化学习
共 669 条 · 7 天 50 条 · 30 天 222 条 · 话题观测 →
9月23日
PACT 论文:对齐 critic 与策略,提升 LLM 强化学习训练效果
RULER:用实例化评分细则奖励提升 SVG 生成
一篇教 RL 生成 SVG 的论文:把每条指令拆成 6 项评分细则当奖励,不需要标注数据,效果追平 DeepSeek-V3,做生成任务奖励设计的可以看看。
9月22日
Thom Wolf 称开源高质量 RL 环境是当前推动开源前沿最有影响力之举
Thom Wolf 点名的一套开源 RL 环境要来了,附约 7k 训练数据和框架,还练出 Artificial Analysis 前六的模型,做 RL 的可以蹲一下。
小米开源全模态模型 MiMo-V2.6:AA 指数 46 分超 Kimi K3
小米把 MiMo-V2.6 权重全开源了,Pro 在 AA 指数拿 46 分压过 Kimi K3,价格只有海外模型的 1/20。
IT之家原文
9月21日
机器人长时程任务中针对关键子任务的强化学习框架 PARTS
这个 PARTS 框架挺有意思,就是针对机器人执行长时程任务时,那些容易卡壳的关键步骤,用强化学习去专门训练,效果比单纯用预训练策略好很多,而且需要的人类操作也少。
9月18日
训练4B模型用强化学习生成比Postgres快81%的查询计划,但实验环境受限,推广性存疑
朋友,有个挺有意思的论文,说训练了一个4B的模型,能让Postgres的查询计划速度提升81%,但实验环境太受限了,推广性存疑,值得看看。
SuperTechFans原文
CARE-VI算法提升强化学习目标可靠性
这是篇关于如何提升强化学习目标可靠性的论文,作者提出了CARE-VI框架,通过CARS、SEVA和DARE三个组件来管理候选动作和修正量,在多个基准任务上取得了更好的结果。
RetireOPD:一种用于强化学习智能体的自退火策略蒸馏方法
朋友,这是篇挺有意思的论文,讲的是怎么用一种叫RetireOPD的新方法来训练AI智能体,效果比直接用强化学习好不少,在几个任务上都有明显提升。
9月17日
小米发布MiMo-V2.6,研究多任务代理RL的扩展性
小米搞了个叫MiMo-V2.6的模型,在研究多任务代理RL怎么扩展,计算量很大,每步20亿令牌,用了很多提示和滚动,还混合了多种环境,挺有意思的。
Songyan Dynamics 发布 HERON-CRA 模型,新增上下文记忆与强化学习引擎
朋友推荐:Songyan Dynamics 新出的 HERON-CRA 模型,加了上下文记忆和强化学习引擎,能更好地控制机器人做袜子折叠,效果提升明显。