中文

朗之万拟蒙特卡洛

统计计算 2023-09-25 v1 机器学习

摘要

朗之万蒙特卡洛(LMC)及其随机梯度版本是从复杂高维分布中采样的强大算法。为从密度为 π(θ)exp(U(θ))\pi(\theta)\propto \exp(-U(\theta)) 的分布中采样,LMC 通过在梯度方向 U\nabla U 上步进并添加高斯扰动来迭代生成下一个样本。关于目标分布 π\pi 的期望通过对 LMC 样本取平均来估计。在普通蒙特卡洛中,众所周知,用拟随机样本(如低差异序列)替代独立随机样本可大幅降低估计误差。在本文中,我们证明 LMC 的估计误差也可通过使用拟随机样本来降低。具体而言,我们提出使用具有某种低差异特性的完全一致分布(CUD)序列来生成高斯扰动。在光滑性和凸性条件下,我们证明带有低差异 CUD 序列的 LMC 比标准 LMC 达到更小的误差。理论分析得到了令人信服的数值实验的支持,这些实验证明了我们方法的有效性。

关键词

引用

@article{arxiv.2309.12664,
  title  = {Langevin Quasi-Monte Carlo},
  author = {Sifan Liu},
  journal= {arXiv preprint arXiv:2309.12664},
  year   = {2023}
}