在线多类分类中利用替代损失间隙

我们提出了 Gaptron，一种用于在线多类分类的随机一阶算法。在全信息设置中，我们展示了关于逻辑损失、铰链损失和平滑铰链损失的期望错误界，具有常数遗憾，其中期望是关于学习器的随机性。在赌博机分类设置中，我们展示了 Gaptron 是第一个具有 $O(K\sqrt{T})$ 期望遗憾的线性时间算法，其中 $K$ 是类别数。此外，Gaptron 的期望错误界不依赖于特征向量的维度，这与之前在赌博机分类设置中具有 $O(K\sqrt{T})$ 遗憾的算法相反。我们提出了一种新的证明技术，该技术利用了 0-1 损失和替代损失之间的差距，而不是利用诸如 exp-concavity 或 mixability 等性质，这些性质传统上用于证明对数或常数遗憾界。