Bandit PAC 多类分类的快速收敛率

我们研究了在仅收到预测标签正确性反馈的多类 PAC 学习问题，即输入被分类为 $K$ 种可能标签之一。我们的主要贡献在于设计了一种新型学习算法，用于解决该问题的agnostic $(\varepsilon,\delta)$-PAC 版本，其样本复杂度为 $O\big( (\operatorname{poly}(K) + 1 / \varepsilon^2) \log (|H| / \delta) \big)$，其中 $H$ 为任意有限假设类。就 $\varepsilon$ 的主要依赖项而言，这超越了现有界限的形式 $O(K/\varepsilon^2)$。我们还将此结果推广至一般假设类，建立了类似的样本复杂度界，其中 $\log |H|$ 被 Natarajan 维数取代。这一结果匹配了该问题全信息版本的最优速率，并解决了 Daniely、Sabato、Ben-David 与 Shalev-Shwartz 于 2011 年所开展的开放问题——他们指出，实际可实现 PAC 学习中，bandit 反馈的乘子代价为 $\Theta(K)$。我们进一步揭示了在agnostic 情况下，bandit 反馈的代价仅为 $O(1)$ 随着 $\varepsilon \to 0$。我们的算法利用基于 Frank-Wolfe 更新的 log-barrier potential 的随机优化技术，以计算在假设 $H$ 上的低方差探索分布，并通过访问 $H$ 的 ERM oracle 实现了计算效率。