面向短文本的上下文增强神经主题建模
信息检索
2020-08-12 v1 计算与语言
摘要
作为主流的主题挖掘工具之一，神经主题建模因训练高效和强泛化能力而备受关注。然而，由于每条短文本缺乏上下文，现有神经主题模型在此类文档上可能受限于特征稀疏。为缓解该问题，我们提出一种上下文增强神经主题模型（CRNTM），其特点可概括如下。首先，通过假设每条短文本仅涵盖少数显著主题，CRNTM在较窄范围内推断每个词的主题。其次，我们的模型通过将主题视为嵌入空间中的多元高斯分布或高斯混合分布，来利用预训练词嵌入。在两个基准数据集上的大量实验验证了所提模型在主题发现和文本分类上的有效性。
引用
@article{arxiv.2008.04545,
title = {Context Reinforced Neural Topic Modeling over Short Texts},
author = {Jiachun Feng and Zusheng Zhang and Cheng Ding and Yanghui Rao and Haoran Xie},
journal= {arXiv preprint arXiv:2008.04545},
year = {2020}
}