TopicTag：利用链式思考和LLM进行NMF主题模型的自动注释
机器学习
2024-07-30 v1 人工智能
计算与语言
摘要
主题建模是一种用于组织和提取大型无结构文本集合中的主题的技术。非负矩阵分解（NMF）是一种常见的无监督方法，用于分解术语频率-逆文档频率（TF-IDF）矩阵以揭示潜在主题并对数据集进行分段。虽然对突出模式和文档聚类非常有用，但NMF不提供明确的主题标签， necessitating subject matter experts（SME）手动分配标签。我们提出了一种自动化NMF聚类文档的主题标注方法，采用自动模型确定（NMFk）。通过利用NMFk的输出并采用提示工程，我们利用大型语言模型（LLM）生成准确的主题标签。我们对34,000多个关于知识图谱的科学摘要进行案例研究，证明了该方法在增强知识管理和文件组织方面的有效性。
引用
@article{arxiv.2407.19616,
title = {TopicTag: Automatic Annotation of NMF Topic Models Using Chain of Thought and Prompt Tuning with LLMs},
author = {Selma Wanna and Ryan Barron and Nick Solovyev and Maksim E. Eren and Manish Bhattarai and Kim Rasmussen and Boian S. Alexandrov},
journal= {arXiv preprint arXiv:2407.19616},
year = {2024}
}
备注
Accepted to ACM Symposium on Document Engineering 2024 (DocEng 24), 2024