中文

用于 Gibbs 近似的多层 Langevin 路径平均

数值分析 2024-02-13 v2 数值分析 概率论

摘要

我们提出并研究了一种基于(过阻尼)Langevin 扩散的新的多层方法,用于数值近似 Rd\mathbb{R}^d 上的 Gibbs 分布 π\pi。该方法受 \cite{mainPPlangevin} 与 \cite{giles_szpruch_invariant} 启发,依赖于多层占据测度,即 RR 个步长分别为 γr=γ02r\gamma_r = \gamma_0 2^{-r}r=0,,Rr=0,\ldots,R)的(定步长)Euler 格式的占据测度的适当组合。我们首先在一般假设下给出一个定量结果,保证在 L2L^2 意义下的 \textit{ε\varepsilon-近似},其代价在较弱收缩假设下为 ε2\varepsilon^{-2}ε2logε3\varepsilon^{-2}|\log \varepsilon|^3 阶。随后将其应用于具有强凸势 U:RdRU:\mathbb{R}^d\rightarrow\mathbb{R} 的过阻尼 Langevin 扩散,并在对 UU 的附加假设下得到阶为 O(dε2log3(dε2)){\cal O}(d\varepsilon^{-2}\log^3(d\varepsilon^{-2}))O(dε2){\cal O}(d\varepsilon^{-2}) 的 \textit{ε\varepsilon-复杂度}。更精确地,至多差通用常数,参数的适当选取使得代价被 (λˉU1)2λU3dε2{(\bar{\lambda}_U\vee 1)^2}{\underline{\lambda}_U^{-3}} d\varepsilon^{-2} 控制(其中 λˉU\bar{\lambda}_UλU\underline{\lambda}_U 分别表示 D2UD^2U 最大与最小特征值的 supremum 与 infimum)。最后,我们以若干数值实验补充这些理论结果,包括与贝叶斯学习中其他算法的比较,并拓展至非强凸情形。

关键词

引用

@article{arxiv.2109.07753,
  title  = {Multilevel-Langevin pathwise average for Gibbs approximation},
  author = {Maxime Egéa and Fabien Panloup},
  journal= {arXiv preprint arXiv:2109.07753},
  year   = {2024}
}