Stein 变分梯度下降的有限粒子收敛速率
机器学习
2023-11-03 v5 机器学习
摘要
我们给出了 Stein 变分梯度下降（SVGD）的第一个有限粒子收敛速率，SVGD 是一种用一组粒子逼近概率分布的流行算法。具体而言，只要目标分布是具有 Lipschitz 得分的次高斯分布，具有 n 个粒子和适当步长序列的 SVGD 就能以 1/sqrt(log log n) 的阶将核 Stein 差异驱动至零。我们怀疑对 n 的依赖性可以改善，并希望我们显式的、非渐近的证明策略可作为未来改进的模板。
引用
@article{arxiv.2211.09721,
title = {A Finite-Particle Convergence Rate for Stein Variational Gradient Descent},
author = {Jiaxin Shi and Lester Mackey},
journal= {arXiv preprint arXiv:2211.09721},
year = {2023}
}
备注
NeurIPS 2023