中文

基于秩-2非负矩阵分解的快速聚类与主题建模

机器学习 2015-10-05 v3 信息检索 数值分析

摘要

随着文本数据量的不断增长,无监督聚类与主题建模的重要性已得到广泛认可。本文提出了一种用于层次聚类与主题建模的快速方法,称为 HierNMF2。该方法基于执行二元聚类的快速秩-2非负矩阵分解(NMF)和高效的节点分裂规则。进一步利用 HierNMF2 中生成的最终叶节点以及非负最小二乘拟合的思想,我们提出了一种新的聚类/主题建模方法 FlatNMF2,该方法以极其简单但显著优于任何现有方法的方式恢复扁平的聚类/主题建模结果。我们用 C++ 实现了高度优化的开源软件 HierNMF2 和 FlatNMF2,用于文档数据集的层次与划分聚类/主题建模。大量实验测试表明,在计算时间和解的质量上均有显著提升。我们将所提方法与其他聚类方法(包括 K-means、标准 NMF 和 CLUTO)以及主题建模方法(包括潜在狄利克雷分配(LDA)和近期提出的带可分性约束的 NMF 算法)进行了比较。总体而言,我们提出了用于分析大规模数据集的高效工具,以及可推广至许多其他数据分析问题领域的技术。

关键词

引用

@article{arxiv.1509.01208,
  title  = {Fast Clustering and Topic Modeling Based on Rank-2 Nonnegative Matrix Factorization},
  author = {Da Kuang and Barry Drake and Haesun Park},
  journal= {arXiv preprint arXiv:1509.01208},
  year   = {2015}
}

备注

This paper has been withdrawn by the author to clarify the authorship