Gaussian-process(高斯过程)是一种贝叶斯非参数建模方法,用函数空间上的概率分布来刻画回归与不确定性估计,因理论严谨、样本需求低而长期活跃于机器学习研究。近期 arXiv cs.LG 上的多篇论文显示,该方向正从经典回归与贝叶斯优化向博弈学习、隐私保护、变分推断加速等场景扩展,研究重心逐渐落在提升可扩展性与量化预测不确定性上。
Gaussian Process 近期进展
当前焦点与观察点
与其他概率模型的关系是近期讨论的另一条线索。贝叶斯神经网络无需全随机:按先验尺度学习划分随机参数与通过张量程序定量刻画随机神经网络的高斯过程极限均围绕贝叶斯神经网络与 Gaussian-process 极限之间的联系展开,后者借助张量程序对随机网络的 GP 极限给出定量刻画,有助于理解何时可用 GP 近似替代贝叶斯网络推断。
应用侧,Neuro-Physical Inverter:结合集成条件与残差学习的大地电磁反演框架等物理反演工作延续了高斯过程在地球物理、科学计算中的传统优势场景。
综合来看,Gaussian-process 研究当前的争议点主要在于:核心 O(N³) 复杂度限制下,摊销推断与稀疏近似能否真正支撑大规模应用;以及深度学习时代,其可解释的不确定性估计在多大程度上能被更廉价的方法替代。后续值得观察的方向包括隐私化 GP、博弈与强化学习中的代理建模,以及 GP 极限理论对贝叶斯深度学习设计的指导作用。