欠阻尼朗之万蒙特卡洛的改进离散化分析
统计理论
2023-02-17 v1 机器学习
统计理论
摘要
欠阻尼朗之万蒙特卡洛（ULMC）是一种通过利用粒子在势阱中运动的动量来从非归一化密度中采样的算法。我们提供了对 ULMC 的新分析，动机源于两个核心问题：（1）我们能否在强对数凸性之外获得改进的采样保证？（2）我们能否实现采样加速？对于（1），先前关于 ULMC 的结果仅在对数 Sobolev 不等式与限制性的 Hessian 光滑条件同时成立时成立。在此，我们通过去除 Hessian 光滑条件并考虑满足 Poincaré 不等式的分布来放宽这些假设。我们的分析达到了最先进的维度依赖，并且足够灵活以处理弱光滑势。作为副产品，我们还基于沿欠阻尼朗之万扩散的 log-Sobolev 常数的一个新结果，获得了在无 Hessian 光滑且强对数凸下的 ULMC 首个 KL 散度保证。对于（2），Cao、Lu 和 Wang（2020）近期的突破通过 PDE 方法建立了连续时间采样的首个加速结果。我们的离散化分析将其结果转化为算法保证，确实比先前 ULMC 工作具有更好的条件数依赖，尽管我们留下了离散时间完全加速的问题。 （1）和（2）都需要 Rényi 离散化界，其比通常使用的 Wasserstein 耦合论证更具挑战性。我们使用基于 Girsanov 定理的灵活离散化分析来解决此问题，该分析易于推广到更一般设定。
引用
@article{arxiv.2302.08049,
title = {Improved Discretization Analysis for Underdamped Langevin Monte Carlo},
author = {Matthew Zhang and Sinho Chewi and Mufan Bill Li and Krishnakumar Balasubramanian and Murat A. Erdogdu},
journal= {arXiv preprint arXiv:2302.08049},
year = {2023}
}