基于PL条件的二次惩罚方法复杂度分析

我们研究了针对具有等式约束的光滑非凸优化问题的二次惩罚方法(QPM)。在约束违规在可行集附近满足PL条件的假设下，我们推导了获取近似一阶KKT点的更精细的最坏情况复杂度界限。当目标函数和约束是 twice continuously differentiable时，我们证明，配合合适的一阶内求解器的QPM，最多需要$O(\varepsilon_{0}^{-1}\varepsilon_{1}^{-2})$次一阶 oracle调用即可找到一个$(\varepsilon_{0},\varepsilon_{1})$-近似KKT点——即一个在可行性上$\varepsilon_{0}$近似且在静止性上$\varepsilon_{1}$近似的点。 Furthermore,当目标函数和约束是三次连续可微时，我们证明，配合合适的二阶内求解器的QPM，最多需要$O\left(\varepsilon_{0}^{-1/2}\varepsilon_{1}^{-3/2}\right)$次二阶 oracle调用即可找到一个$(\varepsilon_{0},\varepsilon_{1})$-近似KKT点。我们还引入了一个自适应且以可行性为导向的子问题停止准则，该准则在远离可行性时放宽静止性容忍度。这一规则在保持所有理论保证的同时，显著减少了实际计算中的计算工作量。