中文

面向大数据的无偏贝叶斯:偏后验路径

机器学习 2015-02-10 v2 机器学习 统计方法学

摘要

贝叶斯推断中一个关键的兴趣量是关于后验分布的函数期望。马尔可夫链蒙特卡洛(MCMC)是通过对从近似后验抽取的样品取平均来一致计算这些期望的基本工具。然而,在所谓大数据时代,其可行性正受到挑战,因为每次迭代都需处理全部数据。我们认识到,若目标为估计,则此类模拟是一个不必要困难的问题,于是构建了计算可扩展的方法论,允许对所要求的期望进行无偏估计——而无需从完整后验显式模拟。该方案的方差按构造为有限且易于控制,从而导出可证明无偏且自然达到期望误差容忍度的算法。这以关于数据集规模亚线性的平均计算复杂度实现,且其自由参数易于调节。我们在应用于大规模基准与真实世界数据集的一系列常见统计模型上展示了该方法论的效用与通用性。

关键词

引用

@article{arxiv.1501.03326,
  title  = {Unbiased Bayes for Big Data: Paths of Partial Posteriors},
  author = {Heiko Strathmann and Dino Sejdinovic and Mark Girolami},
  journal= {arXiv preprint arXiv:1501.03326},
  year   = {2015}
}

备注

18 pages, 10 figures