基于非负 CP 张量分解的大规模动态主题建模
机器学习
2020-10-16 v2 机器学习
摘要
由于数据的爆炸式增长，当前对大规模时序数据分析的需求空前旺盛。动态主题建模已广泛应用于社会科学与数据科学，旨在学习随时间涌现、演变与消退的潜在主题。以往动态主题建模的工作主要采用非负矩阵分解（NMF）方法，将数据张量的各个切片分别分解为低维非负矩阵的乘积。然而，该方法常忽视或欠利用数据时间维度中所含信息。为克服此问题，我们转而提出采用非负 CANDECOMP/PARAPAC（CP）张量分解（NNCPD）方法，直接将张量分解为非负向量的外积之最小和，从而保留时间信息。NNCPD 的可行性通过对合成数据与真实数据的应用得到证明，相较典型基于 NMF 的方法获得了显著改进的结果。我们研究并讨论了 NNCPD 相对于此类方法的优势。据我们所知，这是首次将 NNCPD 用于动态主题建模，我们的发现将对应用与进一步发展具有变革性意义。
引用
@article{arxiv.2001.00631,
title = {On Large-Scale Dynamic Topic Modeling with Nonnegative CP Tensor Decomposition},
author = {Miju Ahn and Nicole Eikmeier and Jamie Haddock and Lara Kassab and Alona Kryshchenko and Kathryn Leonard and Deanna Needell and R. W. M. A. Madushani and Elena Sizikova and Chuntian Wang},
journal= {arXiv preprint arXiv:2001.00631},
year = {2020}
}
备注
23 pages, 29 figures, submitted to Women in Data Science and Mathematics (WiSDM) Workshop Proceedings, "Advances in Data Science", AWM-Springer series