基于经验贝叶斯方法的非凸秩最小化

在许多需要最小秩矩阵解的应用中，其底层的代价函数是非凸的，导致了一个难以处理的 NP 困难优化问题。因此，凸核范数常被用作矩阵秩的替代惩罚项。问题在于，在许多实际场景中，尽管存在理论上的特例，但已无法保证我们能正确估计出感兴趣的生成低秩矩阵。因此，本文提出了一种建立在变分近似基础上的替代性经验贝叶斯方法，与核范数不同，它在许多有用的约束下保留了与秩函数相同的全局最小化点估计。然而，局部最小化解通过边缘化被大量平滑掉，使得该算法在标准凸松弛完全失败时能够取得成功。虽然所提出的方法通常适用于广泛的低秩应用，但我们将注意力集中在稳健主成分分析（RPCA）问题上，该问题涉及估计一个带有未知稀疏损坏的未知低秩矩阵。我们提供了理论和经验证据，表明我们的方法可能优于相关的基于 MAP 的方法，而凸主成分追踪（PCP）算法（Candes et al., 2011）可被视为这些方法的一个特例。