中文

非负低秩矩阵恢复可能存在虚假局部极小值

最优化与控制 2026-01-22 v2 机器学习 机器学习

摘要

众所周知,低秩矩阵恢复在受限等距性质(RIP)下表现出良性非凸性:每个二阶临界点都是全局最优的,因此局部方法可证明地恢复真实值。受投影梯度法在非负低秩恢复问题中强大实证性能的启发,我们研究了当因子矩阵被约束为逐元素非负时,这种良性几何结构是否仍然存在。在秩为1的非负真实值的简单设定中,我们证实,在RIP常数δ=0\delta=0的全观测情况下,良性非凸性成立。然而,这种良性非凸性是不稳定的。它无法扩展到具有任意小RIP常数δ>0\delta>0的部分观测情况,也无法扩展到更高秩的真实值r>1r^{\star}>1的情况,无论搜索秩rrr\ge r^{\star}如何过参数化。这些结果共同削弱了基于稳定性的标准解释,该解释用于说明非凸方法的经验成功,并表明需要根本不同的工具来分析非负低秩恢复。

关键词

引用

@article{arxiv.2505.03717,
  title  = {Nonnegative Low-rank Matrix Recovery Can Have Spurious Local Minima},
  author = {Richard Y. Zhang},
  journal= {arXiv preprint arXiv:2505.03717},
  year   = {2026}
}