中文

具有一致预言机的简单在线学习

机器学习 2024-02-08 v2 人工智能 机器学习

摘要

我们考虑如下模型中的在线学习:学习算法仅能通过\emph{一致预言机}访问假设类——该预言机在任何时刻都能给出类中与迄今所见所有样本一致的函数。此模型近期由 Assos 等人(COLT'23)提出,其动机在于标准在线学习方法依赖于计算子类的 Littlestone 维数,而这是一个计算上难处理的问题。Assos 等人给出了该模型下一种在线学习算法,对 Littlestone 维数为 dd 的类的误分次数至多不超过 CdC^d,其中 C>0C > 0 为某个未指定的绝对常数。我们给出了一种新算法,其误分次数至多不超过 O(256d)O(256^d)。我们的证明显著简化,且仅使用了 Littlestone 维数的非常基本的性质。我们还证明了该模型中不存在误分次数少于 3d3^d 的算法。

关键词

引用

@article{arxiv.2308.08055,
  title  = {Simple online learning with consistent oracle},
  author = {Alexander Kozachinskiy and Tomasz Steifer},
  journal= {arXiv preprint arXiv:2308.08055},
  year   = {2024}
}

备注

Changes to previous version: added 3^d lower bound