中文

苹果品尝:组合维度与极小极大速率

机器学习 2024-06-21 v3 机器学习

摘要

在\emph{苹果品尝}(apple tasting)反馈下的在线二分类中,学习器仅在其预测为“1”时才能观测到真实标签。由\cite{helmbold2000apple}首次研究,我们重新审视这一经典的部分反馈设定,并从组合视角研究在线可学习性。我们证明Littlestone维度在不可知设定下继续为苹果品尝提供紧致的量化刻画,从而解决了\cite{helmbold2000apple}提出的一个开放问题。此外,我们给出了一个新的组合参数,称为有效宽度(Effective width),它紧致地量化了可实现设定下的极小极大期望错误数。作为推论,我们利用有效宽度建立了可实现设定下极小极大期望错误数的\emph{三分法}(trichotomy)。特别地,我们证明在可实现设定下,任何学习器在苹果品尝反馈下的期望错误数可为Θ(1)\Theta(1)Θ(T)\Theta(\sqrt{T})Θ(T)\Theta(T)。这与全信息可实现设定形成对比,后者仅可能出现Θ(1)\Theta(1)Θ(T)\Theta(T)

关键词

引用

@article{arxiv.2310.19064,
  title  = {Apple Tasting: Combinatorial Dimensions and Minimax Rates},
  author = {Vinod Raman and Unique Subedi and Ananth Raman and Ambuj Tewari},
  journal= {arXiv preprint arXiv:2310.19064},
  year   = {2024}
}

备注

21 pages, COLT 2024 Camera Ready