Wasserstein 变分梯度下降:从半离散最优传输到集成变分推断
机器学习
2019-05-16 v2 机器学习
摘要
基于粒子的变分推断提供了一种用一组粒子逼近复杂后验分布的灵活方式。在本文中,我们基于半离散最优传输理论引入了一种新的基于粒子的变分推断方法。我们不是最小化后验与变分近似之间的 KL 散度,而是最小化一个半离散最优传输散度。所得最优传输问题的解同时提供了粒子近似和一组最优传输密度,这些密度将每个粒子映射到后验分布的一个片段。我们通过最小化截断分布与最优传输解之间的 KL 散度来近似这些传输密度。所得算法可解释为一种集成变分推断,其中每个粒子关联一个局部变分近似。
引用
@article{arxiv.1811.02827,
title = {Wasserstein variational gradient descent: From semi-discrete optimal transport to ensemble variational inference},
author = {Luca Ambrogioni and Umut Guclu and Marcel van Gerven},
journal= {arXiv preprint arXiv:1811.02827},
year = {2019}
}