无约束在线优化：强凸光滑问题的动态后悔分析

动态在线学习算法的后悔界通常用函数序列的变化量（$V_T$）和/或 $T$ 轮后极小化序列的路径长度来表示。对于强凸且光滑的函数，Zhang 等人确立了极小化序列的平方路径长度（$C^*_{2,T}$）作为后悔的下界。他们还表明，在线梯度下降（OGD）通过每轮多次梯度查询可达到该下界。本文关注无约束在线优化。我们首先证明，OGD 的一种预条件变体在每轮一次梯度查询下可达到 $O(C^*_{2,T})$。随后，针对函数序列的一阶与二阶信息可预测的情形，我们提出在线乐观牛顿（OON）方法。OON 的后悔界由极小化序列的四次路径长度（$C^*_{4,T}$）刻画，其可远小于 $C^*_{2,T}$。最后我们表明，通过对 OGD 使用多次梯度查询，可实现后悔的 $O(\min\{C^*_{2,T},V_T\})$ 上界。