非平稳在线学习中的二阶路径变分

我们考虑在指数凹且光滑损失下的通用动态遗憾最小化问题。我们表明，适当设计的强自适应算法可实现 $\tilde O(d^2 n^{1/5} C_n^{2/5} \vee d^2)$ 的动态遗憾，其中 $n$ 为时间范围，$C_n$ 为基于比较器序列二阶差分的路径变分。此类路径变分自然地对分段线性的比较器序列进行编码——这是一个在实践中能追踪多种非平稳模式的强大族（Kim et al, 2009）。上述动态遗憾率被证明在维度依赖和 $n$ 的多项式对数因子意义下是最优的。我们的证明技术依赖于分析离线预言机的KKT条件，并需要对Baby and Wang, 2021中的思想进行若干非平凡的推广，而后者的工作仅能为当前问题导出较慢的 $\tilde O(d^{2.5}n^{1/3}C_n^{2/3} \vee d^{2.5})$ 动态遗憾率。