具有全局线性收敛算法的增广 L1 与核范数模型

本文研究了在稀疏优化背景下，向不可微目标函数添加一个优良光滑函数以使其“光滑化”这一长期存在的思想，特别是极小化 $||x||_1+1/(2\alpha)||x||_2^2$（其中 $x$ 为向量），以及极小化 $||X||_*+1/(2\alpha)||X||_F^2$（其中 $X$ 为矩阵，$||X||_*$ 和 $||X||_F$ 分别为 $X$ 的核范数和 Frobenius 范数）。我们表明，它们能有效恢复稀疏向量和低秩矩阵。特别是，在感知算子满足零空间性质、受限等距性质、球截面性质或无 RIP 性质等条件下，它们享有与极小化 $||x||_1$ 和 $||X||_*$ 已知的类似的确切和稳定恢复保证。为了恢复（近）稀疏向量 $x^0$，只要 $\alpha\ge 10||x^0||_\infty$，极小化 $||x||_1+1/(2\alpha)||x||_2^2$ 几乎总是返回与极小化 $||x||_1$ 相同（或近乎相同）的解。类似的关系也存在于极小化 $||X||_*+1/(2\alpha)||X||_F^2$ 与极小化 $||X||_*$ 之间，用于恢复（近）低秩矩阵 $X^0$，前提是 $\alpha\ge 10||X^0||_2$。此外，我们表明，用于在约束 $Ax=b$ 下极小化 $||x||_1+1/(2\alpha)||x||_2^2$ 的线性化 Bregman 算法，只要存在非零解，就具有全局线性收敛性，并且我们给出了明确的收敛速率。该收敛性质不需要解的唯一性或关于 $A$ 的任何性质。据我们所知，这是针对一阶稀疏优化算法已知的最佳全局收敛结果。