S2vNTM：半监督 vMF 神经主题建模
计算与语言
2024-02-09 v2 人工智能
摘要
基于语言模型的方法是文本分类的强大技术。然而，这些模型存在若干缺陷。(1) 难以融入关键词等人类知识。(2) 训练模型需要大量资源。(3) 依赖大规模文本数据进行预训练。在本文中，我们提出半监督 vMF 神经主题建模（S2vNTM）以克服这些困难。S2vNTM 以少量种子关键词作为输入来定义主题。S2vNTM 利用关键词的模式来识别潜在主题，并优化主题关键词集合的质量。在多种数据集上，S2vNTM 在仅提供有限关键词的情况下，分类准确率优于现有的半监督主题建模方法。S2vNTM 的速度至少为基础方法的两倍。
引用
@article{arxiv.2307.04804,
title = {S2vNTM: Semi-supervised vMF Neural Topic Modeling},
author = {Weijie Xu and Jay Desai and Srinivasan Sengamedu and Xiaoyu Jiang and Francis Iannacci},
journal= {arXiv preprint arXiv:2307.04804},
year = {2024}
}
备注
17 pages, 9 figures, ICLR Workshop 2023. arXiv admin note: text overlap with arXiv:2307.01226