避免非凸正则化问题的严格鞍点

本文考虑一类非凸非光滑稀疏优化问题，涵盖大多数现有的非凸稀疏诱导项。我们证明二阶最优性条件仅依赖于稳定点的非零分量。我们提出两种阻尼迭代重加权算法，包括迭代重加权 $\ell_1$ 算法（DIRL$_1$）和迭代重加权 $\ell_2$ 算法（DIRL$_2$），以求解这些问题。对于 DIRL$_1$，我们证明重加权 $\ell_1$ 子问题具有支撑集识别性质，使得 DIRL$_1$ 在稳定点附近局部退化为梯度下降算法。对于 DIRL$_2$，我们证明重加权 $\ell_2$ 子问题的解映射处处可微且 Lipschitz 连续。因此，DIRL$_1$ 和 DIRL$_2$ 的映射及其逆映射是 Lipschitz 连续的，且严格鞍点是它们的不稳定不动点。通过应用稳定流形定理，在假设严格鞍点性质成立时，这些算法在随机初始化下仅收敛到局部极小点。