论非光滑非凸优化中有意义的局部保证的困难性

我们研究非光滑非凸优化的预言机复杂度，假设算法只能获取局部函数信息。Davis, Drusvyatskiy和Jiang（2023）已经证明，对于满足特定正则性和严格性条件的非光滑Lipschitz函数，扰动梯度下降渐近收敛到局部极小值点。受此结果以及非凸非光滑优化中关于Goldstein平稳性的其他近期算法进展的启发，我们考虑了为该问题类获取收敛到局部极小值点的非渐近速率的问题。我们对这个问题给出了否定的回答：作用于正则Lipschitz函数的局部算法，在最坏情况下，无法在次指数时间内就函数值提供有意义的局部保证，即使所有近平稳点都是全局极小值点。这与光滑设置形成鲜明对比，在光滑设置中，众所周知标准梯度方法可以以与维度无关的速率做到这一点。我们的结果补充了理论计算机科学文献中丰富的关于困难性结果的研究体系，这些文献在诸如 $\mathsf{P}\neq\mathsf{NP}$ 的猜想或密码学假设下提供困难性结果，而我们的结果不依赖于任何此类假设而成立。