一种用于半监督神经主题建模的联合学习方法
信息检索
2022-04-08 v1 计算与语言
机器学习
机器学习
摘要
主题模型是以可解释方式表示文本数据最流行的方法之一。近来，深度生成模型（特别是自编码变分贝叶斯(AEVB)）的进展催生了无监督神经主题模型，其利用深度生成模型而非传统的基于统计的主题模型。我们在这些神经主题模型基础上进行扩展，引入标签索引神经主题模型(LI-NTM)，据我们所知，这是首个有效的上游半监督神经主题模型。我们发现LI-NTM在文档重建基准上优于现有神经主题模型，在低标注数据体制和具有信息性标签的数据集上结果最为显著；此外，我们联合学习的分类器在消融研究中优于基线分类器。
引用
@article{arxiv.2204.03208,
title = {A Joint Learning Approach for Semi-supervised Neural Topic Modeling},
author = {Jeffrey Chiu and Rajat Mittal and Neehal Tumma and Abhishek Sharma and Finale Doshi-Velez},
journal= {arXiv preprint arXiv:2204.03208},
year = {2022}
}
备注
To appear in the 6th ACL Workshop on Structured Prediction for NLP (SPNLP)