面向在线二层优化的全一阶算法

本文研究了仅使用一阶 oracle 的非凸-强凸在线二层优化 (OBO) 问题。现有 OBO 算法主要基于超梯度下降，需访问 Hessian-向量乘积 (HVP) oracle，可能导致高计算成本。通过将原始 OBO 问题重新表述为带不等式约束的单层在线问题并构造拉格朗日函数序列，我们消除了隐式微分产生的 HVP 需求。具体而言，我们提出了一种全一阶 OBO 算法，并提供理论保证，表明其在 $O(1 + V_T + H_{2,T})$ 的 regret 下，总计 $O(T\log T)$ 次迭代，其中 $V_T$ 测量函数值变化，$H_{2,T}$ 描述内层最优解的漂移变化。我们还通过引入额外的梯度变化项，在单环结构下建立亚线性 regret 界。进一步，我们发展了改进变体，采用自适应内层迭代方案，消除 $H_{2,T}$ 的依赖，实现 $O(\log T + V_T)$ 的 regret。在随机 OBO 设置下，我们为全一阶算法建立了 regret 界，即 $O(T^{2/3}(1 + \sigma^2) + V_T + H_{2,T})$。数值实验表明，我们的算法可行且支持理论发现。