在线学习是机器学习的一个分支，指模型在数据流式到达的过程中持续更新、边预测边学习，而不需要事先拿到完整的静态数据集。它在推荐系统、金融风控、大语言模型推理调度等场景中应用广泛，理论核心围绕遗憾度（regret）——即在线算法与事后最优策略之间的累计性能差距。
在线学习近期进展
近期理论研究在多个方向取得突破。专家预测新算法：差分隐私下遗憾度降至 Õ(√L) 提出在差分隐私约束下的专家预测新算法，将遗憾度上界降至 Õ(√L)，说明隐私保护与预测性能可以更好地兼得。
多臂老虎机是在线学习的经典框架。贝叶斯多臂老虎机方法：在线挑选兼顾准确率与公平性的分类器 用贝叶斯方法在线选择分类器，同时优化准确率与公平性；异构异步多玩家多臂老虎机：最优分配NP难，贪心算法达1/√e近似 则证明了该场景下最优分配问题是NP难的，并给出 1/√e 近似比的贪心算法。arXiv 论文：精确滑动窗口约束下的线性 Bandit 算法与遗憾界分析 针对非平稳环境，给出了滑动窗口约束下线性 Bandit 的遗憾界。
工程应用方面，JOVE：执行与验证联合调度，降低 LLM 任务图成本与延迟 将联合调度思想用于大模型推理，降低任务图的成本与延迟。Neural ODEs与并发学习结合实现稳定在线学习（来自 Google DeepMind）通过神经微分方程与并发学习结合，提升了连续动态系统中在线学习的稳定性；AURA 元学习框架：在潜空间用贝叶斯滤波实现快速在线学习 则借助元学习与贝叶斯滤波实现快速适应。
当前焦点与观察点
从上述研究看，在线学习当前的讨论集中在三条线索：一是非平稳与受限环境，如滑动窗口、异步多玩家、隐私约束下的遗憾度刻画；二是公平性与效率的联合优化，在线选择算法开始把公平性作为一阶目标而非事后约束；三是与深度模型和大模型系统的结合，包括 Neural ODEs 的稳定性问题和推理任务调度。
值得关注的观察点包括：差分隐私下 Õ(√L*) 的遗憾界能否推广到更一般的场景；多玩家异构设置中 NP难结果是否催生更好的近似算法；以及元学习、贝叶斯滤波与在线学习的融合能否在真实流数据场景中稳定落地。整体而言，在线学习正从经典的赌机与专家预测理论，向更贴近实际系统约束的方向演进。