朗之万拟蒙特卡洛
统计计算
2023-09-25 v1 机器学习
摘要
朗之万蒙特卡洛(LMC)及其随机梯度版本是从复杂高维分布中采样的强大算法。为从密度为 的分布中采样,LMC 通过在梯度方向 上步进并添加高斯扰动来迭代生成下一个样本。关于目标分布 的期望通过对 LMC 样本取平均来估计。在普通蒙特卡洛中,众所周知,用拟随机样本(如低差异序列)替代独立随机样本可大幅降低估计误差。在本文中,我们证明 LMC 的估计误差也可通过使用拟随机样本来降低。具体而言,我们提出使用具有某种低差异特性的完全一致分布(CUD)序列来生成高斯扰动。在光滑性和凸性条件下,我们证明带有低差异 CUD 序列的 LMC 比标准 LMC 达到更小的误差。理论分析得到了令人信服的数值实验的支持,这些实验证明了我们方法的有效性。
引用
@article{arxiv.2309.12664,
title = {Langevin Quasi-Monte Carlo},
author = {Sifan Liu},
journal= {arXiv preprint arXiv:2309.12664},
year = {2023}
}