非凸-强凸双层优化的下界：一阶 oracle视角

尽管双层优化的上界保证已被广泛研究，但关于下界的进展有限，due to bilevel structure的复杂性。本文聚焦于光滑非凸-强凸设置，构建新的硬实例，在确定性和随机一阶 oracle模型下给出非平凡下界。在确定性情况下，我们证明任何一阶零保护算法至少需要$\Omega(\kappa^{3/2}\epsilon^{-2})$个oracle调用以找到$\epsilon$-精确的 stationary点，这改进了单层非凸优化和非凸-强凸 min-max问题已知的最优下界。在随机情况下，我们表明至少需要$\Omega(\kappa^{5/2}\epsilon^{-4})$个随机oracle调用，这再次强化了相关领域的最佳已知下界。我们的结果暴露了当前上界和下界之间的 substantial gap，并表明即使是二次次级目标函数的简化情形，也值得进一步调查，以理解标准一阶oracle下双层优化的最优复杂度。