MCMC 领域的紧缩:削减 Metropolis-Hastings 预算
机器学习
2014-02-17 v4 机器学习
摘要
当面对非常大的数据集时,我们能否使贝叶斯后验 MCMC 采样更高效?我们认为,在 Metropolis-Hastings (MH) 检验中计算 N 个数据点的似然以做出单个二元决策在计算上是低效的。我们引入了一种基于序贯假设检验的近似 MH 规则,该规则允许我们仅使用精确 MH 规则所需数据的一小部分,就能以高置信度接受或拒绝样本。虽然该方法引入了渐近偏差,但我们表明该偏差是可以控制的,并且由于我们能够在单位时间内抽取更多样本,这种偏差被方差的减少所抵消且绰绰有余。
引用
@article{arxiv.1304.5299,
title = {Austerity in MCMC Land: Cutting the Metropolis-Hastings Budget},
author = {Anoop Korattikara and Yutian Chen and Max Welling},
journal= {arXiv preprint arXiv:1304.5299},
year = {2014}
}
备注
v4 - version accepted by ICML2014