连贯性感知的神经主题建模
计算与语言
2018-09-11 v1 机器学习
摘要
主题模型的评估基于其良好描述文档的能力(即低困惑度)以及产生具有连贯语义的主题的能力。在迄今为止的主题建模中,困惑度是直接优化目标。然而,主题连贯性由于其计算困难,未被优化,仅在训练后评估。在这项工作中,我们在神经变分推断框架下,提出将主题连贯性目标纳入训练过程的方法。我们证明了这种连贯性感知的主题模型展现出与基线模型相似的困惑度水平,但实现了显著更高的主题连贯性。
引用
@article{arxiv.1809.02687,
title = {Coherence-Aware Neural Topic Modeling},
author = {Ran Ding and Ramesh Nallapati and Bing Xiang},
journal= {arXiv preprint arXiv:1809.02687},
year = {2018}
}
备注
Accepted at EMNLP 2018