主题模型中的保证推断
机器学习
2016-08-18 v2
摘要
统计模型中的核心问题之一是后验分布的估计。对于主题模型，单个文本的后验推断问题尤为重要，尤其是在处理数据流时，但在最坏情况下往往难以处理。因此，现有的后验推断方法是近似的，且在质量和收敛速率上均无任何保证。本文介绍了一种可证明快速的算法，即在线最大后验估计（OPE），用于主题模型中的后验推断。OPE比现有的推断方法具有更吸引人的性质，包括关于推断问题局部极大/驻点质量的理论保证和快速收敛速率。关于OPE的讨论非常通用，因此可轻松应用于广泛的场景。最后，我们利用OPE设计了三种从文本流或大型语料库中学习Latent Dirichlet Allocation的方法。大量实验展示了OPE及其新学习方法的某些优越性能。
引用
@article{arxiv.1512.03308,
title = {Guaranteed inference in topic models},
author = {Khoat Than and Tung Doan},
journal= {arXiv preprint arXiv:1512.03308},
year = {2016}
}