ReShap:面向高维多动作环境的可解释强化学习框架
把 SHAP 归因和策略蒸馏结合,让玩 Atari 游戏的深度 RL 智能体也能被看懂,决策树代理比线性回归更忠实。做可解释 AI、安全 RL 或想在机器人等高风险场景部署 RL 的研究者值得复现。
把 SHAP 归因和策略蒸馏结合,让玩 Atari 游戏的深度 RL 智能体也能被看懂,决策树代理比线性回归更忠实。做可解释 AI、安全 RL 或想在机器人等高风险场景部署 RL 的研究者值得复现。
训练智能体不用再搭一堆环境了,SAPD 直接从离线轨迹学,比在线蒸馏快 4.7 倍,代码过阵子开源。
训练机械臂策略的新思路:不蒸馏专家,只学视觉补状态,真机 Panda 上 76% 成功率,做 sim-to-real 的朋友可以看看。
朋友,这是篇挺有意思的论文,讲的是怎么用一种叫RetireOPD的新方法来训练AI智能体,效果比直接用强化学习好不少,在几个任务上都有明显提升。
RISE方法解决了传统蒸馏中教师质量瓶颈问题,用模型自身轨迹构建教师,在多项任务中超越现有方法。
SafeSteer 用极低成本(100 个样本)解决了安全对齐损害通用能力的痛点,做 LLM 安全或对齐的团队可以直接参考其局部化蒸馏方法,大幅减少数据依赖。