连续时间动态主题模型
信息检索
2015-05-19 v2 机器学习
机器学习
摘要
在本文中,我们开发了连续时间动态主题模型(cDTM)。cDTM 是一种动态主题模型,它利用布朗运动对文档序列中的潜在主题进行建模,其中“主题”是指我们预期会随着文档集合的演变而变化的词语使用模式。我们推导了一种高效的变分近似推断算法,该算法利用了文本中观测值的稀疏性,这一特性使我们能够轻松处理多个时间点。与 cDTM 相比,原始的离散时间动态主题模型(dDTM)要求对时间进行离散化。此外,dDTM 的变分推断复杂度随着时间粒度的增加而迅速增长,这一缺点限制了细粒度离散化。我们在两个新闻语料库上展示了 cDTM 的效果,报告了预测困惑度以及时间戳预测这一新任务的结果。
引用
@article{arxiv.1206.3298,
title = {Continuous Time Dynamic Topic Models},
author = {Chong Wang and David Blei and David Heckerman},
journal= {arXiv preprint arXiv:1206.3298},
year = {2015}
}
备注
Appears in Proceedings of the Twenty-Fourth Conference on Uncertainty in Artificial Intelligence (UAI2008)