通过非单调投影梯度方法在稀疏对称集上进行优化

我们考虑在工程与科学中有广泛应用的某类稀疏对称集上最小化 Lipschitz 可微函数的问题。对于该问题，已知采用常数步长 $1/L$ 的经典投影梯度（PG）方法的任何聚点均满足文献 [3] 中引入的 $L$-平稳性最优性条件。在本文中，我们引入了一个比 $L$-平稳性最优性条件更强的新最优性条件。我们还通过将一些支撑改变与坐标交换策略融入变步长投影梯度方法中，为该问题提出了一种非单调投影梯度（NPG）方法。证明了 NPG 的任何聚点均满足新的最优性条件，且进一步地它是一个坐标方向平稳点。在某些适当假设下，我们进一步证明它是该问题的全局或局部极小点。进行了数值实验以比较 PG 与 NPG 的性能。计算结果表明，NPG 的解质量显著优于 PG，且在速度方面至少与 PG 相当，有时甚至可以比 PG 快得多。