基于 β-散度的非负矩阵分解的联合优化最小化方法
机器学习
2023-04-18 v4 机器学习
摘要
本文针对以 -散度为目标函数的非负矩阵分解（NMF）提出了新的乘法更新规则。我们的新更新规则源于一种联合优化最小化（MM）方案，该方案为两个因子联合构造一个辅助函数（目标函数的紧上界），并在每次迭代中对其进行最小化。这与为每个因子分别导出主要化函数的经典方法形成对比。如同该经典方法，我们的联合 MM 算法同样得到易于实现的乘法更新规则。然而，它们显著降低了计算时间（在解质量相当的情况下），特别是对于某些具有重要应用价值的 -散度，例如平方欧氏距离以及 Kullback-Leibler 或 Itakura-Saito 散度。我们报告了使用多种数据集的实验结果：人脸图像、音频谱图、高光谱数据和歌曲播放计数。根据 的值和数据集的不同，与经典交替方案相比，我们的联合 MM 方法可实现 CPU 时间减少约 到 。
引用
@article{arxiv.2106.15214,
title = {Joint Majorization-Minimization for Nonnegative Matrix Factorization with the $\beta$-divergence},
author = {Arthur Marmin and José Henrique de Morais Goulart and Cédric Févotte},
journal= {arXiv preprint arXiv:2106.15214},
year = {2023}
}