离散无限逻辑斯蒂正态分布
机器学习
2015-03-19 v3
摘要
我们提出了离散无限逻辑斯蒂正态分布（DILN），这是一种用于混合成员模型的贝叶斯非参数先验。DILN是层次狄利克雷过程（HDP）的推广，它建模了组级别上原子权重之间的相关结构。我们推导了DILN作为归一化的伽马分布随机变量集合的表示，并研究了其统计性质。我们考虑了在主题建模中的应用，并推导了一种变分推理算法用于近似后验推断。我们在四个语料库上研究了DILN主题模型的实证性能，并与HDP和相关主题模型（CTM）进行了比较。为了处理大规模数据集，我们还为DILN开发了一种在线推理算法，并与在线HDP和在线LDA在包含约35万篇文章的《自然》杂志上进行了比较。
引用
@article{arxiv.1103.4789,
title = {The Discrete Infinite Logistic Normal Distribution},
author = {John Paisley and Chong Wang and David Blei},
journal= {arXiv preprint arXiv:1103.4789},
year = {2015}
}
备注
This paper will appear in Bayesian Analysis. A shorter version of this paper appeared at AISTATS 2011, Fort Lauderdale, FL, USA