流式变分贝叶斯
机器学习
2013-11-22 v2 机器学习
摘要
我们提出了 SDA-Bayes,这是一个用于贝叶斯后验的(S)流式、(D)分布式、(A)异步计算框架。该框架根据用户指定的近似批次原语对估计后验进行流式更新。我们以变分贝叶斯(VB)作为原语,通过将潜在狄利克雷分配模型拟合到两个大规模文档集合,展示了我们框架的实用性。通过在已知数据量单次遍历后(这是随机变分推断(SVI)可应用的情形)以及在流式设置下(SVI 不适用)对两者进行比较,我们展示了我们的算法相较于随机变分推断(SVI)的优势。
引用
@article{arxiv.1307.6769,
title = {Streaming Variational Bayes},
author = {Tamara Broderick and Nicholas Boyd and Andre Wibisono and Ashia C. Wilson and Michael I. Jordan},
journal= {arXiv preprint arXiv:1307.6769},
year = {2013}
}
备注
25 pages, 3 figures, 1 table