用于选择性学习的指数权重算法

我们研究由 Qiao 和 Valiant（2019）引入的选择性学习问题，其中学习器一次观测 $n$ 个带标签数据点。在其选定的时刻，学习器选择窗口长度 $w$ 和模型类 $\mathcal{L}$ 中的模型 $\hat\ell$，然后使用 $\hat\ell$ 对接下来 $w$ 个数据点进行标注。学习器产生的超额风险定义为 $\hat\ell$ 在这 $w$ 个数据点上的平均损失与 $\mathcal{L}$ 中所有模型在这 $w$ 个数据点上最小可能平均损失之间的差值。我们给出了一种改进的算法，称为混合指数权重算法，其期望超额风险达到 $O((\log\log|\mathcal{L}| + \log\log n)/\log n)$。该结果在关于 $|\mathcal{L}|$ 的依赖性上相比已知最优界 $O(\sqrt{|\mathcal{L}|/\log n})$ 有双指数级的改进。我们以几乎匹配的下界补充了该正面结果，表明该算法在最坏情况下是最优的。我们还研究了一类更具限制性的学习算法，它们是有限回忆的，即当选择长度为 $w$ 的预测窗口时，学习器的决策仅依赖于最近的 $w$ 个数据点。我们分析了 Qiao 和 Valiant（2019）中 ERM 算法的一个指数权重变体。该新算法达到期望超额风险 $O(\sqrt{\log |\mathcal{L}|/\log n})$，并被证明在所有有限回忆学习器中近乎最优。我们的分析建立在 Drucker（2013）、Qiao 和 Valiant（2019）中选择性均值预测问题的一个推广版本之上，这本身可能具有独立意义。