关于跟随正则化领导者的动态遗憾：带历史剪枝的乐观策略

我们重新审视了紧集上在线凸优化（OCO）的跟随正则化领导者（FTRL）框架，重点在于实现动态遗憾保证。先前的工作强调了该框架在动态环境中的局限性，因为它倾向于产生“惰性”迭代。然而，基于表明 FTRL 能够产生“敏捷”迭代的见解，我们证明了通过对未来成本进行乐观组合并对过去成本进行仔细线性化（从而可能导致剪枝部分成本），它确实能够恢复已知的动态遗憾界。这种针对动态比较器的 FTRL 新分析产生了一种在惰性更新和敏捷更新之间进行插值的原则性方法，并提供了若干好处，包括对遗憾项的精细控制、无循环依赖的乐观策略，以及类似于 AdaFTRL 的最小递归正则化应用。更广泛地说，我们表明阻碍（乐观）动态遗憾的不是 FTRL 的“惰性”投影风格，而是算法状态（线性化历史）与其迭代的解耦，使得状态可以任意增长。相反，剪枝在必要时使这两者同步。