关于镜像 Stein 变分梯度下降在 $(L_0,L_1)-$光滑条件下的收敛性注记

Lukang Sun; Peter Richtárik

关于镜像 Stein 变分梯度下降在 $(L_0,L_1)-$光滑条件下的收敛性注记

最优化与控制 2022-06-22 v1 机器学习统计理论统计理论

作者: Lukang Sun , Peter Richtárik

摘要

在本注记中，我们为总体极限镜像 Stein 变分梯度方法~(MSVGD)建立了一个下降引理。该下降引理不依赖于 MSVGD 的路径信息，而是基于镜像分布 $\nabla\Psi_{\#}\pi\propto\exp(-V)$ 的一个简单假设。我们的分析表明，MSVGD 可应用于具有非光滑 $V$ 的更广泛一类约束采样问题。我们还从维度 $d$ 的角度考察了总体极限 MSVGD 的复杂度。

关键词

镜像 Stein 变分梯度下降下降引理约束采样非光滑势收敛分析维度复杂度

引用

@article{arxiv.2206.09709,
  title  = {A Note on the Convergence of Mirrored Stein Variational Gradient Descent under $(L_0,L_1)-$Smoothness Condition},
  author = {Lukang Sun and Peter Richtárik},
  journal= {arXiv preprint arXiv:2206.09709},
  year   = {2022}
}

备注

first draft and will be modified

关于镜像 Stein 变分梯度下降在 $(L_0,L_1)-$光滑条件下的收敛性注记

摘要

关键词

引用

备注

相关论文