基于粒子的在线贝叶斯采样
机器学习
2023-03-01 v1
摘要
在线优化因其能够跟踪现实世界中的流式数据而受到越来越多的关注。尽管在线优化方法在频率派统计设定下已被广泛研究，但鲜有工作考虑带有贝叶斯采样问题的在线优化。在本文中，我们研究了一种在线基于粒子的变分推断（OPVI）算法，该算法使用一组粒子来表示近似分布。为了减少由随机近似的使用所引起的梯度误差，我们采用了一种次线性增长的批大小方法来降低方差。为了跟踪 OPVI 算法在一系列动态变化的目标后验下的性能，我们从 Wasserstein 梯度流与动态遗憾的角度提供了详细的理论分析。合成数据与贝叶斯神经网络的实验表明，所提出的算法比在在线设定下朴素地应用现有贝叶斯采样方法取得了更好的结果。
引用
@article{arxiv.2302.14796,
title = {Particle-based Online Bayesian Sampling},
author = {Yifan Yang and Chang Liu and Zheng Zhang},
journal= {arXiv preprint arXiv:2302.14796},
year = {2023}
}