面向少数主题的约束非负矩阵分解导向主题建模
机器学习
2025-05-23 v1
摘要
主题模型往往难以捕捉低流行、领域关键主题，即所谓的少数主题，如在在线评论中出现的精神健康主题。虽然一些现有方法可以整合领域知识，如预期的主题内容，但允许引导的方法可能需要过于详细的预期主题，阻碍主题划分和变体的发现。我们提出一种通过特殊约束NMF的主题建模解决方案。我们纳入刻画少数内容感兴趣领域的种子词列表，但无需专家预先指定其在少数主题中的划分。通过对少数主题的流行度约束以及种子词在主题中的内容分布，学习出众所不同的数据驱动式少数主题以及多数主题。约束NMF通过Karush-Kuhn-Tucker (KKT)条件配合乘法更新进行拟合。在合成数据上，我们在主题纯度、归一化互信息等指标上超越了多个基线方法；也评估了使用 Jensen-Shannon 散度 (JSD) 的主题质量。我们对YouTube vlog 评论进行案例研究，分析观众对精神健康内容的讨论；我们的模型成功识别并揭示了该领域相关的少数内容。
引用
@article{arxiv.2505.16493,
title = {Constrained Non-negative Matrix Factorization for Guided Topic Modeling of Minority Topics},
author = {Seyedeh Fatemeh Ebrahimi and Jaakko Peltonen},
journal= {arXiv preprint arXiv:2505.16493},
year = {2025}
}