增广拉格朗日乘子法用于精确恢复被破坏的低秩矩阵
摘要
本文提出了可扩展且快速的算法来解决稳健主成分分析问题，即恢复一个未知比例条目被任意破坏的低秩矩阵。该问题出现在许多应用中，例如图像处理、网络数据排序和生物信息数据分析。最近研究表明，在非常广泛的条件下，稳健主成分分析问题可以通过凸优化精确求解，该优化最小化核范数和 ℓ1 范数的组合。在本文中，我们应用增广拉格朗日乘子法 (ALM) 来求解这个凸规划。由于目标函数是非光滑的，我们展示了如何将经典的 ALM 分析扩展到这类新的目标函数，并证明了所提出算法的最优性，同时刻画了它们的收敛速度。实验上，所提出的新算法比之前最先进的稳健主成分分析算法（如加速近端梯度 (APG) 算法）快五倍以上。此外，新算法实现了更高的精度，同时存储/内存需求更少。我们还展示了 ALM 技术可用于解决（相关但稍简单的）矩阵补全问题，并获得了相当有前景的结果。我们进一步证明了非精确 ALM 全局收敛的充分必要条件。所有讨论算法的 Matlab 代码可在 http://perception.csl.illinois.edu/matrix-rank/home.html 获取。
引用
@article{arxiv.1009.5055,
title = {The Augmented Lagrange Multiplier Method for Exact Recovery of Corrupted Low-Rank Matrices},
author = {Zhouchen Lin and Minming Chen and Yi Ma},
journal= {arXiv preprint arXiv:1009.5055},
year = {2013}
}
备注
Please cite "Zhouchen Lin, Risheng Liu, and Zhixun Su, Linearized Alternating Direction Method with Adaptive Penalty for Low Rank Representation, NIPS 2011." (available at arXiv:1109.0367) instead for a more general method called Linearized Alternating Direction Method This manuscript first appeared as University of Illinois at Urbana-Champaign technical report #UILU-ENG-09-2215 in October 2009 Zhouchen Lin, Risheng Liu, and Zhixun Su, Linearized Alternating Direction Method with Adaptive Penalty for Low Rank Representation, NIPS 2011. (available at http://arxiv.org/abs/1109.0367)