非负低秩矩阵恢复可能存在虚假局部极小值
最优化与控制
2026-01-22 v2 机器学习
机器学习
摘要
众所周知,低秩矩阵恢复在受限等距性质(RIP)下表现出良性非凸性:每个二阶临界点都是全局最优的,因此局部方法可证明地恢复真实值。受投影梯度法在非负低秩恢复问题中强大实证性能的启发,我们研究了当因子矩阵被约束为逐元素非负时,这种良性几何结构是否仍然存在。在秩为1的非负真实值的简单设定中,我们证实,在RIP常数的全观测情况下,良性非凸性成立。然而,这种良性非凸性是不稳定的。它无法扩展到具有任意小RIP常数的部分观测情况,也无法扩展到更高秩的真实值的情况,无论搜索秩如何过参数化。这些结果共同削弱了基于稳定性的标准解释,该解释用于说明非凸方法的经验成功,并表明需要根本不同的工具来分析非负低秩恢复。
引用
@article{arxiv.2505.03717,
title = {Nonnegative Low-rank Matrix Recovery Can Have Spurious Local Minima},
author = {Richard Y. Zhang},
journal= {arXiv preprint arXiv:2505.03717},
year = {2026}
}