无界光滑性下双层优化中Adam型算法的收敛性

Adam已成为训练现代深度神经网络（如Transformer）最流行的优化器之一。然而，其适用性在很大程度上局限于单层优化问题。在本文中，我们旨在将 vanilla Adam 扩展以解决双层优化问题，后者在机器学习中具有重要应用，例如元学习。特别地，我们研究了下层函数为强凸、上层目标为非凸且可能具有无界光滑性的随机双层优化问题。这种无界光滑的目标函数涵盖了一类广泛的神经网络，包括可能表现出非Lipschitz梯度的Transformer。在这项工作中，我们引入了AdamBO，一种单循环Adam型方法，以$\widetilde{O}(\epsilon^{-4})$ oracle复杂度找到$\epsilon$-平稳点，其中 oracle 调用涉及随机梯度或Hessian/Jacobian-向量积评估。我们分析的关键是一种新颖的随机解耦引理，它提供了对下层变量的精细控制。我们在涉及双层公式的各种机器学习任务上进行了广泛实验，包括循环神经网络（RNN）和Transformer，证明了所提出的Adam型算法的有效性。