基于子空间追踪近端黎曼梯度的可扩展核范数最小化
机器学习
2015-03-19 v2 数值分析
摘要
核范数正则化在许多学习任务中起着至关重要的作用，例如低秩矩阵恢复（MR）和低秩表示（LRR）。由于变量的未知秩或大秩奇异值分解（SVD），直接求解该问题在计算上可能非常昂贵。为此，我们提出了一种近端黎曼梯度（PRG）方案，它能够高效求解定义在秩至多为 的实矩阵实代数簇 上的迹范数正则化问题。基于 PRG，我们进一步提出了一种简单而新颖的子空间追踪（SP）范式，用于不带显式秩约束 的一般迹范数正则化问题。所提出的范式通过避免大秩 SVD 而具有非常好的可扩展性。在多个任务（如矩阵补全和基于 LRR 的子空间聚类）上的实证研究表明，所提范式优于现有方法。
引用
@article{arxiv.1503.02828,
title = {Scalable Nuclear-norm Minimization by Subspace Pursuit Proximal Riemannian Gradient},
author = {Mingkui Tan and Shijie Xiao and Junbin Gao and Dong Xu and Anton Van Den Hengel and Qinfeng Shi},
journal= {arXiv preprint arXiv:1503.02828},
year = {2015}
}