Graph2topic:一个基于句子嵌入与社区发现的开放源代码主题建模框架
计算与语言
2023-06-07 v3 机器学习
摘要
已有报道指出,基于聚类的主题模型通过对高质量句子嵌入进行聚类并配合适当的选词方法,能够生成比生成式概率主题模型更好的主题。然而,这些方法存在无法选择适当参数以及模型不完整的问题,忽略了词与主题、主题与文本之间的定量关系。为解决这些问题,我们提出了图到主题(Graph to Topic, G2T),一个简单而有效的主题建模框架。该框架由四个模块组成。首先,使用预训练语言模型获取文档表示。其次,根据文档表示之间的相似性构建语义图。第三,识别文档语义图中的社区,并据此量化主题与文档之间的关系。第四,基于TFIDF的一种变体计算词—主题分布。自动评估表明,G2T在不同长度的英文和中文文档上均达到了最先进的性能。
引用
@article{arxiv.2304.06653,
title = {Graph2topic: an opensource topic modeling framework based on sentence embedding and community detection},
author = {Leihang Zhang and Jiapeng Liu and Qiang Yan},
journal= {arXiv preprint arXiv:2304.06653},
year = {2023}
}
备注
11pages