中文

随机梯度动力学朗之万积分器的收缩率估计

数值分析 2023-06-16 v1 数值分析 统计计算

摘要

在先前工作中,我们引入了一种确定动力学朗之万方程积分方法收敛速率的方法,适用于MM-\nablaLipschitz mm-log-concave密度 [arXiv:2302.10684, 2023]。本文中,我们利用该方法处理若干附加格式,包括Brunger、Brooks与Karplus方法(BBK)以及随机位置/速度Verlet。受Bou-Rabee与Marsden近期格式启发 [arXiv:2211.11003, 2022],我们引入了一种用于动力学朗之万动力学的随机中点格式。我们还将我们的方法扩展到这些格式的随机梯度变体,仅需极少的额外假设。我们给出了O(m/M)\mathcal{O}(m/M)的收敛速率,带有显式步长限制,其阶数与高斯目标稳定性阈值相同,并对摩擦参数的大区间有效。我们比较了来自分子动力学与机器学习的许多动力学朗之万积分器的收缩率估计。最后,我们给出了一个贝叶斯逻辑回归例子的数值实验。

关键词

引用

@article{arxiv.2306.08592,
  title  = {Contraction Rate Estimates of Stochastic Gradient Kinetic Langevin Integrators},
  author = {Benedict Leimkuhler and Daniel Paulin and Peter A. Whalley},
  journal= {arXiv preprint arXiv:2306.08592},
  year   = {2023}
}