最优 Hessian/Jacobian-free Nonconvex-PL 双层优化

双层优化在许多机器学习任务中得到广泛应用，如超参数学习、元学习和强化学习。尽管最近开发了许多算法来解决双层优化问题，但它们通常依赖于(强)凸的下层问题。更近期地，有一些方法被提出来解决非凸-PL 双层优化问题，其中上层问题可能是非凸的，下层问题也可能是非凸的，但满足 Polyak-{\L}ojasiewicz (PL) 条件。然而，这些方法仍然具有高收敛复杂度或高计算复杂度，例如需要计算昂贵的 Hessian/Jacobian 矩阵及其逆矩阵。在本文中，我们提出了一种高效的 Hessian/Jacobian-free 方法 (即 HJFBiO)，用于解决非凸-PL 双层问题。理论上，在一些温和条件下，我们证明了我们的 HJFBiO 方法获得 $O(\frac{1}{T})$ 的最优收敛率，其中 $T$ 表示迭代次数，在寻找 $\epsilon$-stationary 解方面具有 $O(\epsilon^{-1})$ 的最优梯度复杂度。我们在 bilevel PL game 和 hyper-representation learning 任务上进行数值实验，以演示我们所提出方法的有效性。