神经嵌入分配：主题模型的分布式表示
计算与语言
2019-09-12 v1 信息检索
机器学习
摘要
诸如skip-gram之类的词嵌入模型学习词语义关系的向量表示，文档嵌入模型学习文档的类似表示。另一方面，主题模型提供文档主题主题的潜在表示。为同时获得这些表示的益处，我们提出一种统一算法，称为神经嵌入分配（NEA），它通过学习神经嵌入来模仿主题模型，将主题模型解构为词、主题、文档、作者等可解释的向量空间嵌入。我们在LDA、作者主题模型以及最近提出的混合隶属skip gram主题模型上展示了NEA的有效性和通用性，并且相较于若干SOTA模型，使用嵌入取得了更好的性能。此外，我们证明当主题数量较大时，使用NEA平滑主题可相比原始主题模型提高一致性分数。
引用
@article{arxiv.1909.04702,
title = {Neural Embedding Allocation: Distributed Representations of Topic Models},
author = {Kamrun Naher Keya and Yannis Papanikolaou and James R. Foulds},
journal= {arXiv preprint arXiv:1909.04702},
year = {2019}
}