Bandit(多臂老虎机)是在线决策与强化学习领域的经典模型,研究在不确定环境下如何通过反复尝试在“探索”与“利用”之间取得平衡,以最小化累计遗憾(regret)。它是推荐系统、广告投放、A/B 测试等场景的理论基础,目前的研究重心正从标准设定向更贴近现实的约束与鲁棒性方向延伸。
Bandit 理论的近期进展
近期 arXiv 上多篇工作集中在放宽经典假设后的遗憾界分析:
Bandit 与大模型、Agent 研究的交汇
除纯理论外,Bandit 思想也出现在大模型与 Agent 相关研究中:RATED 框架(arXiv)提出基于执行动态的可靠性感知工具检索,本质上带有在线选择与反馈修正的 Bandit 色彩;恢复感知的干预学习(arXiv)则从“优化策略从什么中学习”的角度讨论了干预式决策的信息来源问题。
当前焦点与观察点
目前 Bandit 研究的主要争议与关注点有三:一是非平稳与对抗环境下遗憾界的紧致性,滑动窗口等设定下的界是否最优仍有讨论空间;二是鲁棒设定下的计算效率,首个多项式时间学习器的出现可能带动一批后续工作;三是与 Agent 系统结合时,工具检索、验证器可靠性等问题(如 RLVR 中验证器出错引发的奖励黑客)正在成为在线决策理论落地的新场景。对从业者的观察建议是关注理论界与实际系统可靠性之间的差距,而非单纯追逐更小的遗憾上界。