中文

BAGEL:针对对抗约束在线凸优化的无投影算法

机器学习 2026-01-29 v2 人工智能 最优化与控制

摘要

约束在线凸优化(COCO)中的基于投影的算法可达到最优 O(T1/2)\mathcal{O}(T^{1/2}) 遗憾界,但面临投影计算复杂度带来的可扩展性挑战。为规避此问题,已有研究提出了利用线性优化预言机(LOO)的无投影方法,但通常只能达到较慢的 O(T3/4)\mathcal{O}(T^{3/4}) 遗憾率。本文研究了通过强化预言机假设能否在无投影设定下恢复 O(T1/2)\mathcal{O}(T^{1/2}) 的收敛率。我们提出了 BAGEL 算法,该算法利用分离预言机(SO)实现了 O(T1/2)\mathcal{O}(T^{1/2}) 遗憾和 O~(T1/2)\tilde{\mathcal{O}}(T^{1/2}) 累积约束违反(CCV)。我们的分析表明,通过利用 SO 的不可行投影,我们可以在 O~(T)\tilde{\mathcal{O}}(T) 次预言机调用下匹配基于投影方法的时间跨度依赖性,前提是对行动集几何结构的依赖。这确立了一个无投影方法可以达到与基于投影方法相同收敛率的特定区域。

关键词

引用

@article{arxiv.2502.16744,
  title  = {BAGEL: Projection-Free Algorithm for Adversarially Constrained Online Convex Optimization},
  author = {Yiyang Lu and Mohammad Pedramfar and Vaneet Aggarwal},
  journal= {arXiv preprint arXiv:2502.16744},
  year   = {2026}
}