基于线性测量的低秩矩阵恢复的随机方差缩减梯度下降法
机器学习
2017-01-17 v2
摘要
我们通过非凸优化研究从线性测量中估计低秩矩阵的问题（亦称矩阵感知）。我们提出了一种高效的随机方差缩减梯度下降算法来求解矩阵感知的非凸优化问题。我们的算法适用于有噪声和无噪声两种设置。在有噪声观测的情况下，我们证明了我们的算法以线性速率收敛至未知低秩矩阵，直至达到极小极大最优统计误差。在无噪声设置下，我们的算法保证线性收敛至未知低秩矩阵，并以最优样本复杂度实现精确恢复。最值得注意的是，我们所提出算法的整体计算复杂度（定义为迭代复杂度乘以每次迭代的时间复杂度）低于基于梯度下降的 SOTA 算法。在合成数据上的实验证实了所提出算法优于 SOTA 算法。
引用
@article{arxiv.1701.00481,
title = {Stochastic Variance-reduced Gradient Descent for Low-rank Matrix Recovery from Linear Measurements},
author = {Xiao Zhang and Lingxiao Wang and Quanquan Gu},
journal= {arXiv preprint arXiv:1701.00481},
year = {2017}
}
备注
24 pages, 1 table, 1 figure