无约束在线学习的人工约束与Lipschitz提示

我们提供算法,对具有$G$-Lipschitz损失的在线凸优化,针对任意比较点$u$在保证无需先验知道$G$或$\|u\|$的情况下,保证遗憾$R_T(u)\le \tilde O(G\|u\|^3 + G(\|u\|+1)\sqrt{T})$或$R_T(u)\le \tilde O(G\|u\|^3T^{1/3} + GT^{1/3}+ G\|u\|\sqrt{T})$。先前的算法以知晓这些参数中的一个或两个为代价免去了$O(\|u\|^3)$项,而下界表明相对于$G\|u\|\sqrt{T}$的某些额外惩罚项是必要的。先前的惩罚是指数级的,而我们的界在所有量上均为多项式的。进一步,给定已知界$\|u\|\le D$,我们的相同技术使我们能设计出自适应最优于未知$\|u\|$值而无需知晓$G$的算法。