通过 Weierstrass 采样器并行化 MCMC
统计计算
2014-05-27 v2 分布式、并行与集群计算
机器学习
摘要
随着统计问题规模的迅速增长，基于子集且无需通信的并行 MCMC 方法是大规模贝叶斯分析的一个有前景的未来方向。在本文中，我们提出了一种基于独立子集的新型 Weierstrass 采样器用于并行 MCMC。该新采样器通过结合来自独立子集 MCMC 链的后验抽样来近似全数据后验样本，从而享有更高的计算效率。我们表明 Weierstrass 采样器的近似误差受某些调节参数的限制，并提供了参数选择的建议。模拟研究表明，与包括平均法和核平滑法在内的其他组合子集生成的 MCMC 链的方法相比，Weierstrass 采样器具有很强的竞争力。
引用
@article{arxiv.1312.4605,
title = {Parallelizing MCMC via Weierstrass Sampler},
author = {Xiangyu Wang and David B. Dunson},
journal= {arXiv preprint arXiv:1312.4605},
year = {2014}
}
备注
The original Algorithm 1 removed. Provided some theoretical justification for refinement sampling (Theorem 2). Added a new algorithm in addition to the rejection sampling for handling dimensionality curse. New simulations and graphs (with new colors and designs). A real data analysis is also provided