在线凸优化与积分二次约束：一种用于 regret 分析的自动化方法

我们提出了一种用于分析强凸和 Lipschitz-smooth 目标下的一阶受约束在线凸优化算法的动态 regret 的新方法。关键在于，我们提供了一种适用于可表示为反馈中线性动力系统与一阶预言机相互作用的广泛一类一阶算法的通用分析。通过利用积分二次约束 (IQCs)，我们导出一个半正定规划 (SDP)，当可行时，可为在线算法提供一个 regret 保证。为此，引入了变分 IQCs 的概念，将 IQCs 推广到时变单调算子。我们的界限以时间变化最小化器和目标函数变化的路径长度形式捕获问题的时间依赖率。与标准 OCO 结果不同，我们的结果不要求梯度有界性，也不要求可行集有界。数值分析表明，该方法能够捕获 regret 对函数类条件数的依赖。