SwISS:一种可扩展的马尔可夫链蒙特卡洛分治策略
统计计算
2022-08-09 v1 统计方法学
机器学习
摘要
蒙特卡洛算法的分治策略正日益成为使贝叶斯推断可扩展至大规模数据集的流行方法。在其最简单形式中,数据被划分到多个计算核心,每个核心上独立的马尔可夫链蒙特卡洛算法以相关的部分后验分布为目标,我们称之为子后验,即仅给定该核心所关联划分段数据时的后验。分治技术缓解了计算、内存与磁盘瓶颈,但使子后验样本难以重组。我们提出 SwISS:带膨胀、缩放与平移的子后验(Sub-posteriors with Inflation, Scaling and Shifting);一种重组子后验样本的新方法,其易于应用、可扩展至高维参数空间,并通过子后验样本的仿射变换准确近似原始后验分布。我们证明我们的变换在一组自然的仿射变换中是渐近最优的,并在合成与真实数据集上对照竞争算法说明了 SwISS 的效力。
引用
@article{arxiv.2208.04080,
title = {SwISS: A Scalable Markov chain Monte Carlo Divide-and-Conquer Strategy},
author = {Callum Vyner and Christopher Nemeth and Chris Sherlock},
journal= {arXiv preprint arXiv:2208.04080},
year = {2022}
}
备注
11 pages, 3 figures