SpectralLeader：单主题模型的在线谱学习
机器学习
2018-04-27 v4 机器学习
摘要
我们研究了从数据流中学习潜变量模型的问题。潜变量模型在实践中很受欢迎，因为它们可以用未观测到的概念来解释观测到的数据。这些模型传统上是在离线设置下研究的。另一方面，在在线设置中，在线 EM 可以说是学习潜变量模型最流行的算法。尽管在线 EM 计算效率高，但它通常收敛到局部最优。在这项工作中，我们为潜变量模型开发了一种新的在线学习算法，我们称之为 SpectralLeader。SpectralLeader 总是收敛到全局最优，并且我们推导出了其在词袋模型中 步遗憾的次线性上界。在合成和真实世界实验中，我们表明 SpectralLeader 的表现与经过超参数调优的在线 EM 相似或更好。
引用
@article{arxiv.1709.07172,
title = {SpectralLeader: Online Spectral Learning for Single Topic Models},
author = {Tong Yu and Branislav Kveton and Zheng Wen and Hung Bui and Ole J. Mengshoel},
journal= {arXiv preprint arXiv:1709.07172},
year = {2018}
}
备注
17 pages, 2 figures