光滑非凸有限和优化的下界

光滑有限和优化在凸与非凸设定中均已被广泛研究。然而,现有的有限和优化下界大多局限于各分量函数(强)凸的情形,而非凸有限和优化的下界在很大程度上仍未解决。本文研究光滑非凸有限和优化的下界,其中目标函数为$n$个非凸分量函数的平均值。我们针对目标函数(或各分量函数)Hessian最小特征值的广泛取值范围,证明了在不同设定下寻找$\epsilon$-次优点与$\epsilon$-近似驻点的复杂度紧下界。由我们的下界可知,现有算法包括KatyushaX(Allen-Zhu, 2018)、Natasha(Allen-Zhu, 2017)、RapGrad(Lan and Yang, 2018)和StagewiseKatyusha(Chen and Yang, 2018)在非凸有限和优化中已达最优的增量一阶预言机(IFO)复杂度(即IFO调用次数),直至对数因子。我们也指出了在更强假设或不同收敛分析方面进一步改进这些复杂度结果的潜在途径。