RKHS 中梯度朗之万动力学的无维数收敛速率
概率论
2020-03-27 v2 机器学习
机器学习
摘要
梯度朗之万动力学（GLD）与随机 GLD（SGLD）近来备受关注，作为一种在非凸设定下提供收敛保证的方法。然而，已知速率随空间维数呈指数增长。在本工作中，我们对优化空间为无限维希尔伯特空间时的 GLD 和 SGLD 进行收敛分析。更确切地说，我们在再生核希尔伯特空间中执行正则化非凸优化时，推导了 GLD/SGLD 的非渐近、无维数收敛速率。其中，收敛分析依赖于随机微分方程的性质、其离散时间伽辽金近似以及相关联马尔可夫链的几何遍历性。
引用
@article{arxiv.2003.00306,
title = {Dimension-free convergence rates for gradient Langevin dynamics in RKHS},
author = {Boris Muzellec and Kanji Sato and Mathurin Massias and Taiji Suzuki},
journal= {arXiv preprint arXiv:2003.00306},
year = {2020}
}