中文

切换受限在线凸优化的极小极大后悔:无相变

机器学习 2020-10-23 v3 最优化与控制 机器学习

摘要

我们研究切换受限在线凸优化(OCO)问题,其中玩家改变其行动的机会有限。虽然该在线学习任务的离散类比已被广泛研究,但连续设定下的先前工作既未建立极小极大率,也未在算法上达到它。在本文中,我们证明具有少于KK次切换的TT轮切换受限OCO的极小极大后悔为Θ(TK)\Theta(\frac{T}{\sqrt{K}})。特别地,在一维下它至少为T2K\frac{T}{\sqrt{2K}},在高维下至少为TK\frac{T}{\sqrt{K}}。高维下的下界由正交子空间论证得到。在一维下,一种新颖的对抗策略给出了O(TK)O(\frac{T}{\sqrt{K}})的下界,但包含常数的精确极小极大分析更为复杂。为建立更紧的一维结果,我们引入了\emph{fugal game}松弛,其极小极大后悔下界了切换受限OCO的极小极大后悔。我们证明fugal game的极小极大后悔至少为T2K\frac{T}{\sqrt{2K}},从而建立了一维下的最优极小极大下界。为建立与维度无关的上界,我们接下来证明一种mini-batching算法给出了O(TK)O(\frac{T}{\sqrt{K}})的上界,因此得出对任意KK切换受限OCO的极小极大后悔为Θ(TK)\Theta(\frac{T}{\sqrt{K}})。这与其离散对应问题即切换受限专家预测问题形成鲜明对比,后者在低切换与高切换区间的极小极大后悔表现出相变。

关键词

引用

@article{arxiv.1910.10873,
  title  = {Minimax Regret of Switching-Constrained Online Convex Optimization: No Phase Transition},
  author = {Lin Chen and Qian Yu and Hannah Lawrence and Amin Karbasi},
  journal= {arXiv preprint arXiv:1910.10873},
  year   = {2020}
}

备注

First two authors contributed equally. Accepted to NeurIPS 2020