Relative(相对策略优化)是一种在强化学习中广泛使用的策略优化方法,通过比较不同策略之间的相对优势来指导智能体的学习过程。近期,arXiv平台上的多篇研究论文聚焦于Relative方法的改进和应用,从2026年5月至9月间,研究人员提出了多种新型Relative框架和优化策略。
Relative 近期进展
当前焦点与观察点
Relative方法在强化学习领域的应用正呈现出多元化趋势,从传统的单智能体优化扩展到多智能体系统、图学习甚至微观物理系统。研究人员关注的焦点逐渐从单纯的性能提升转向方法的可解释性和泛化能力。特别是2026年6月提出的ThinkDeception框架,通过渐进式强化学习实现可解释多模态欺骗检测,展示了Relative方法在复杂认知任务中的潜力。
然而,Relative方法仍面临挑战,如2026年5月研究指出的GRPO优势坍塌问题,这一问题可能导致Relative策略优化在长期训练中性能下降。AVSPO缓解方案的提出为这一问题提供了新的解决思路,表明Relative方法的稳定性和鲁棒性仍是当前研究的重点。