随机连续子模最大化：基于非遗忘函数的提升方法

本文重新审视离线与在线设定下的随机连续子模最大化，其可惠及机器学习与运筹学领域的广泛应用。我们提出一个涵盖梯度上升与在线梯度上升的提升框架。我们方法的根本要素是一个源自因子揭示优化问题的新颖非遗忘函数 $F$，其任意驻点给出 $\gamma$-弱 DR-子模目标函数 $f\in C^{1,1}_L(\mathcal{X})$ 全局最大值的 $(1-e^{-\gamma})$-近似。在离线情形下，我们提出一种提升梯度上升方法，在 $O(1/\epsilon^2)$ 次迭代后达到 $(1-e^{-\gamma}-\epsilon^{2})$-近似，改进了经典梯度上升算法的 $(\frac{\gamma^2}{1+\gamma^2})$ 近似比。在线设定中，我们首次考虑随机梯度反馈的对抗性延迟，并在此下提出使用同一非遗忘函数 $F$ 的提升在线梯度算法。同时，我们验证该提升在线算法相对于事后最佳可行解的 $(1-e^{-\gamma})$-近似达到 $O(\sqrt{D})$ 遗憾，其中 $D$ 为梯度反馈延迟之和。据我们所知，当无延迟即 $D=T$ 时，这是首次在每步 $O(1)$ 梯度查询下获得相对于 $(1-e^{-\gamma})$-近似的 $O(\sqrt{T})$ 遗憾的结果。最后，数值实验证明了我们提升方法的有效性。