中文

用于 Gibbs 采样器的无偏马尔可夫链拟蒙特卡洛方法

数值分析 2024-11-05 v3 数值分析

摘要

在统计分析中,蒙特卡洛 (MC) 是一种经典的数值积分方法。当遇到具有挑战性的采样问题时,马尔可夫链蒙特卡洛 (MCMC) 是常用的方法。然而,MCMC 估计量在固定迭代次数后是有偏的。无偏 MCMC 是通过耦合技术实现的一项进展,解决了 MCMC 中的这一偏差问题,使我们能够并行运行许多短链。拟蒙特卡洛 (QMC) 以其高阶收敛性而闻名,是 MC 的一种替代方案。通过将 QMC 的思想融入 MCMC,马尔可夫链拟蒙特卡洛 (MCQMC) 有效降低了 MCMC 的方差,特别是在 Gibbs 采样器中。本文提出了一种将无偏 MCMC 与 MCQMC 相结合的新方法,称为无偏 MCQMC 方法。该方法在显著提高收敛速率的同时提供了无偏估计量。数值实验表明,对于 Gibbs 采样,样本量为 NN 的无偏 MCQMC 产生的均方根误差 (RMSE) 速率优于无偏 MCMC 的 O(N1/2)O(N^{-1/2}) 速率,在低维问题中趋近于 O(N1)O(N^{-1}) 的 RMSE 速率。令人惊讶的是,在一个具有挑战性的 1049 维 P\'olya Gamma Gibbs 采样器问题中,对于中等样本量,RMSE 仍可降低数倍。在并行化设置下,即使运行短链,无偏 MCQMC 的表现也优于无偏 MCMC。

关键词

引用

@article{arxiv.2403.04407,
  title  = {Unbiased Markov chain quasi-Monte Carlo for Gibbs samplers},
  author = {Jiarui Du and Zhijian He},
  journal= {arXiv preprint arXiv:2403.04407},
  year   = {2024}
}