非凸优化局部条件下随机梯度哈密顿蒙特卡洛的非渐近分析

我们在不假设对数凹性的情况下，给出了随机梯度哈密顿蒙特卡洛（SGHMC）在 Wasserstein-2 距离下收敛到目标测度的非渐近分析。我们的分析量化了 SGHMC 作为采样器在局部条件下的关键理论性质，显著改进了先前的结果。特别地，我们证明了目标测度与 SGHMC 定律之间的 Wasserstein-2 距离被算法的步长一致控制，从而表明 SGHMC 能在迭代次数上一致地提供高精度结果。该分析还使我们能在局部条件下获得非凸优化问题的非渐近界，并意味着当 SGHMC 被视为非凸优化器时，能以已知最优速率收敛到全局最小值。我们应用所得结果获得了可扩展贝叶斯推断的非渐近界以及非渐近泛化界。