基于 Wasserstein 重心的贝叶斯学习
机器学习
2022-11-10 v5 机器学习
摘要
我们引入并研究了一种基于最优传输的贝叶斯学习模型选择新策略，及其相关的预测后验律：模型后验律的 Wasserstein 总体重心。我们首先说明该估计量（称为贝叶斯 Wasserstein 重心，BWB）如何在一般的无参数贝叶斯模型选择框架中自然产生，其中所考虑的贝叶斯风险为 Wasserstein 距离。给出了若干例子，说明 BWB 如何扩展一些经典的参数与非参数选择策略。此外，我们还提供了保证 BWB 存在性与统计一致性的显式条件，并讨论其若干一般与特定性质，从而洞察其相对于通常选择（如模型平均估计量）的优势。最后，我们说明了如何利用 companion paper arXiv:2201.04232v2 [math.OC] 中引入的 Wasserstein 空间随机梯度下降（SGD）算法来计算该估计量，并给出一个数值例子以对所提方法进行实验验证。
引用
@article{arxiv.1805.10833,
title = {Bayesian Learning with Wasserstein Barycenters},
author = {Julio Backhoff-Veraguas and Joaquin Fontbona and Gonzalo Rios and Felipe Tobar},
journal= {arXiv preprint arXiv:1805.10833},
year = {2022}
}
备注
This is the final version, accepted for publication in ESAIM-P&S. Results on Bayesian consistency in Wasserstein topology and on convergence of the BWB estimator have been extended and improved. A series of new examples have been added