最小体积主题建模
机器学习
2019-04-04 v1 信息检索
机器学习
摘要
我们提出一种新的主题建模方法,其利用潜在狄利克雷分配(LDA)对数似然函数渐近等价于主题单纯形体积对数这一事实。这使得主题建模可被重新表述为寻找最小化其体积并包围以词上分布表示的文档的概率单纯形。我们提出了最小体积主题模型优化的凸松弛,并证明在 Arora 等(2013)与 Huang 等(2016)引入的可分离性假设与充分分散假设下,松弛问题与原问题具有相同的全局最小值。我们引入一种局部收敛的交替方向乘子法(ADMM)来求解松弛的最小体积问题。数值实验说明了我们的方法在计算时间与主题恢复性能方面的优势。
引用
@article{arxiv.1904.02064,
title = {Minimum Volume Topic Modeling},
author = {Byoungwook Jang and Alfred Hero},
journal= {arXiv preprint arXiv:1904.02064},
year = {2019}
}
备注
Accepted in AISTATS 2019