作为梯度流的Stein变分梯度下降
机器学习
2017-11-15 v2
摘要
Stein变分梯度下降（SVGD）是一种确定性采样算法，它基于高效的梯度更新迭代地传输一组粒子以近似给定分布，该更新保证在函数空间内最优地降低KL散度。本文提出了首个关于SVGD的理论分析，讨论了其弱收敛性质，并表明其渐近行为由Stein算子诱导的新度量结构下KL散度泛函的梯度流所刻画。我们还利用弱导数的概念给出了关于Stein算子和Stein恒等式的若干结果，包括在内弱条件下Stein差异可区分性的一个新证明。
引用
@article{arxiv.1704.07520,
title = {Stein Variational Gradient Descent as Gradient Flow},
author = {Qiang Liu},
journal= {arXiv preprint arXiv:1704.07520},
year = {2017}
}