Schatten-$p$ 拟范数的一种新变分形式
数值分析
2020-10-28 v1 数值分析
摘要
Schatten- 拟范数()近来在各种低秩矩阵估计问题中获得相当关注,相较核范数等相关凸启发式方法具有显著优势。然而,由于 Schatten- 拟范数的非凸性,最小化存在两个主要缺陷:1) 缺乏理论保证,2) 即使对于寻找驻点等平凡任务,最小化任务所需的计算代价也很高。为降低 Schatten- 拟范数最小化带来的高计算代价,已有定义于较小尺寸矩阵因子(其乘积等于原矩阵)上的变分形式被提出。此处,我们提出并分析了一种新颖的 Schatten- 拟范数变分形式,该形式在文献中首次定义于任意连续值 且沿因子化矩阵的列解耦。所提形式可视为著名核范数变分形式到非凸情形即 的自然推广。所得公式催生免 SVD 算法,从而提供比原 Schatten- 拟范数定义诱导的更低计算复杂度。我们提供了局部最优性分析,表明通过达到基于矩阵分解的替代问题的局部极小,可抵达原 Schatten- 拟范数问题的局部极小。此外,对于服从限制等距性质(RIP)的线性算子下的平方 Frobenius 损失,提出了秩一更新方案,为逃离较差局部极小提供途径。最后,我们的方法效率在矩阵补全问题上经经验展示。
引用
@article{arxiv.2010.13927,
title = {A novel variational form of the Schatten-$p$ quasi-norm},
author = {Paris Giampouras and René Vidal and Athanasios Rontogiannis and Benjamin Haeffele},
journal= {arXiv preprint arXiv:2010.13927},
year = {2020}
}