中文

基于交替最小化的加权低秩近似的恢复保证

机器学习 2016-12-09 v2 数据结构与算法 机器学习

摘要

许多应用需要从带噪的条目观测中恢复真实的低秩矩阵,这在实际中通常被表述为加权低秩近似问题,并通过交替最小化等非凸优化启发式方法求解。本文中,我们为加权低秩通过一种简单的交替最小化算法提供了可证明的恢复保证。具体而言,对于一类自然的矩阵和权重,且不对噪声作任何假设,我们将恢复矩阵与真实值之差的谱范数,限制为加权噪声的谱范数加上一个加性误差,该误差随交替最小化轮数呈指数下降——无论是从 SVD 初始化还是(更重要的)随机初始化开始。这些结果为基于交替最小化的加权低秩(采用非二元确定性权重)提供了首个理论结果,显著推广了矩阵补全(二元权重特例)的结果,因为我们的假设与现有工作相似或更弱。此外,这通过一个非常简单的算法实现,该算法以简单的截断步骤改进了原始交替最小化。关键技术挑战在于,在非二元确定性权重下,朴素的交替步骤会破坏中间解的非相干性和谱性质,而这些性质是朝向真实值取得进展所必需的。我们证明这些性质只需要在平均意义下成立,并可通过截断步骤实现。我们进一步给出了一种交替算法,其使用白化步骤,通过 SDP 和 Rademacher 舍入保持这些性质,从而需要更弱的假设。该技术潜在可应用于其他一些场景,且具有独立意义。

关键词

引用

@article{arxiv.1602.02262,
  title  = {Recovery guarantee of weighted low-rank approximation via alternating minimization},
  author = {Yuanzhi Li and Yingyu Liang and Andrej Risteski},
  journal= {arXiv preprint arXiv:1602.02262},
  year   = {2016}
}

备注

40 pages. Updated with the ICML 2016 camera ready version, together with an additional algorithm which needs less assumptions in Appendix C