转导式在线学习的三分律

我们给出了Ben-David、Kushilevitz与Mansour (1997)的“转导式”在线学习设定下学习器失误次数的新上界与下界。该设定类似于标准在线学习，不同之处在于对手在博弈开始时固定一个待标注实例序列 $x_1,\dots,x_n$，且该序列为学习器所知。定性上，我们证明了一个三分律，指出随着 $n$ 增长，学习器所犯最小失误次数只能取恰好三种可能值之一：$n$、$\Theta\left(\log (n)\right)$ 或 $\Theta(1)$。此外，该行为由VC维与Littlestone维共同决定。定量上，我们展示了将失误次数与著名组合维相关联的多种界。特别地，我们将 $\Theta(1)$ 情形下常数已知下界从 $\Omega\left(\sqrt{\log(d)}\right)$ 改进至 $\Omega(\log(d))$，其中 $d$ 为Littlestone维。最后，我们将结果扩展至覆盖多类分类与不可知设定。