中文

多边形可行性步骤的约束在线凸优化

机器学习 2025-07-16 v2 最优化与控制

摘要

本文研究了具有固定约束函数 g:RdRg : \mathbb{R}^d \rightarrow \mathbb{R} 的在线凸优化。先前工作在仅访问Played 动作处的约束值和子梯度 g(xt),g(xt)g(x_t), \partial g(x_t) 的情况下,已显示出 O(T)O(\sqrt{T}) regret 和累积约束满足 t=1Tg(xt)0\sum_{t=1}^{T} g(x_t) \leq 0。在相同约束信息下,我们证明了更强的保证:即时约束满足 g(xt)0 t[T]g(x_t) \leq 0 \ \forall t \in [T],以及匹配的 O(T)O(\sqrt{T}) regret 保证。归功于我们使用多边形可行性步骤确保约束满足、而不牺牲 regret 的方法。具体而言,在每一步在线梯度下降后,我们的算法对约束函数执行一次子梯度下降步骤,其中步长根据著名的多边形步长选择。我们进一步通过数值实验验证了这一方法。

关键词

引用

@article{arxiv.2502.13112,
  title  = {Constrained Online Convex Optimization with Polyak Feasibility Steps},
  author = {Spencer Hutchinson and Mahnoosh Alizadeh},
  journal= {arXiv preprint arXiv:2502.13112},
  year   = {2025}
}

备注

accepted at ICML 2025