自适应性与普适性：面向在线凸优化的通用 regret

通用在线学习旨在无需对在线函数曲率的先验知识即可实现最优regret下界。现有方法已为通用在线学习建立了minimax最优regret界限，单个算法能够同时为凸函数达到$\mathcal{O}(\sqrt{T})$的regret，为exp-凸函数达到$\mathcal{O}(d \log T)$的regret，以及为强凸函数达到$\mathcal{O}(\log T)$的regret，其中T为轮数，d为可行域维数。然而，这些方法仍缺乏问题依赖的自适应性。特别是，没有通用方法能够对梯度变化量$Vt$提供regret下界，这一关键量在随机优化和游戏中的快速收敛中起着关键作用。在本工作中，我们引入UniGrad，一种同时实现普适性和自适应性的新方法，包含两个 distinct 实现：UniGrad.Correct和UniGrad.Bregman。两种方法都实现了能够自适应梯度变化的通用regret下界，同时为强凸函数达到$\mathcal{O}(\log V_T)$的regret，为exp-凸函数达到$\mathcal{O}(d \log V_T)$的regret。对于凸函数，regret界限有所不同：UniGrad.Correct实现$\mathcal{O}(\sqrt{V_T \log V_T})$的界限，同时保持RVU属性，这一属性对在线游戏中的快速收敛至关重要；而UniGrad.Bregman通过一种新颖的设计实现了最优的$\mathcal{O}(\sqrt{V_T})$的regret界限。两种方法都采用包含$\mathcal{O}(\log T)$个基学习者的元算法，这自然需要每轮$\mathcal{O}(\log T)$个梯度查询。为提高计算效率，我们引入UniGrad++，通过代理优化将梯度查询次数保持在1次每轮，而不影响regret。我们进一步提供了各种影响。