基于β散度的非负矩阵分解中的自动相关性确定
机器学习
2012-10-08 v3 统计方法学
摘要
本文探讨了基于β散度的非负矩阵分解（NMF）中潜在维度的估计问题。β散度是一族代价函数，包括平方欧几里得距离、Kullback-Leibler散度和Itakura-Saito散度作为特例。学习模型阶数非常重要，因为必须在数据保真度和过拟合之间取得恰当的平衡。我们提出了一种基于自动相关性确定的贝叶斯模型，其中字典矩阵的列和激活矩阵的行通过其先验中的公共尺度参数联系在一起。针对最大后验（MAP）估计，提出了一族优化最小化算法。在推断过程中，一部分尺度参数被驱动到一个很小的下界，从而起到剪枝相应虚假分量的作用。我们通过在合成数据、游泳者数据集、音乐分解示例和股票价格预测任务上进行大量实验，证明了算法的有效性和鲁棒性。
引用
@article{arxiv.1111.6085,
title = {Automatic Relevance Determination in Nonnegative Matrix Factorization with the \beta-Divergence},
author = {Vincent Y. F. Tan and Cédric Févotte},
journal= {arXiv preprint arXiv:1111.6085},
year = {2012}
}
备注
Accepted by the IEEE Transactions on Pattern Analysis and Machine Intelligence