#在线蒸馏

蒸馏时直接抄老师的最终输出会混进老师基座的偏好，这篇论文改用老师训练前后的偏移量，三个老师组合下 Math 高了 4 分多，做模型蒸馏的可以看看。

这篇论文给多轮智能体蒸馏提了个新思路：只在学生拿不准的步骤让老师出手纠正，WebShop 分数最多提升 15.8%。做 Agent 训练的可以看看干预时机的选择。

发了个叫Adaptive FastOPD的蒸馏加速方法，比OPD 15K快一半多，性能还更高。做训练加速的可以看看。