从 Langevin 扩散稳定性到非凸采样中 Proximal MCMC 的收敛性
机器学习
2025-09-01 v2 计算机视觉与模式识别
机器学习
摘要
我们考虑由非凸势函数产生的采样分布问题,使用 Unadjusted Langevin Algorithm (ULA)。我们在势函数在无穷远处strongly凸的假设下,证明了离散时间 ULA 对漂移近似的稳定性。在许多情境下,例如图像反问题中,势函数是非凸且非光滑的。Proximal Stochastic Gradient Langevin Algorithm (PSGLA) 是处理此类势函数的流行算法。它将前向后向优化算法与 ULA 步骤相结合。我们的主要稳定结果结合 Moreau 包络的性质,使我们能够推导出 PSGLA 对于非凸势函数首个收敛性证明。我们在合成数据上以及图像反问题情境下经验上验证了我们的 метод。特别是,我们观察到 PSGLA 在后验采样中表现出比 Stochastic Gradient Langevin Algorithm 更快的收敛速度,同时保持其恢复特性。
引用
@article{arxiv.2505.14177,
title = {From stability of Langevin diffusion to convergence of proximal MCMC for non-log-concave sampling},
author = {Marien Renaud and Valentin De Bortoli and Arthur Leclaire and Nicolas Papadakis},
journal= {arXiv preprint arXiv:2505.14177},
year = {2025}
}