LDA模型的流式吉布斯采样
机器学习
2016-01-07 v1 机器学习
摘要
流式变分贝叶斯(SVB)在在线学习LDA模型方面取得了成功。然而，先前为LDA开发在线蒙特卡洛方法的尝试鲜有成功，其困惑度常远差于批处理对应方法。我们提出一种流式吉布斯采样(SGS)方法，即折叠吉布斯采样(CGS)的在线扩展。我们的实证研究表明，SGS能达到与CGS相似的困惑度，远优于SVB。我们的SGS分布式版本DSGS比SVB更具可扩展性，主要因为更新的通信复杂度较小。
引用
@article{arxiv.1601.01142,
title = {Streaming Gibbs Sampling for LDA Model},
author = {Yang Gao and Jianfei Chen and Jun Zhu},
journal= {arXiv preprint arXiv:1601.01142},
year = {2016}
}