中文

具有改进次对数遗憾的加权最后一步极小极大算法

机器学习 2013-01-28 v1

摘要

在在线学习中,算法的性能通常通过一个称为遗憾的量,与来自某一类别的固定函数的性能进行比较。Forster 提出了一种最后一步极小极大算法,该算法比 Vovk 的算法稍简单,但具有相同的遗憾。事实上,他分析的算法假设对手的选择是有界的,从而人为地仅产生了两种极端情况。我们通过对样本进行加权使得极小极大问题良定义来修复这一问题,并给出了对数遗憾的分析,其乘性因子可能优于 Forster 和 Vovk 的两个界。我们还推导出一个可能是次对数的新界,如同 Orabona 等人近期的界一样,但可能具有更好的乘性因子。最后,我们在一种弱类型的非平稳设置下分析了该算法,并证明如果非平稳性也是次线性的,则该界也是次线性的。

关键词

引用

@article{arxiv.1301.6058,
  title  = {Weighted Last-Step Min-Max Algorithm with Improved Sub-Logarithmic Regret},
  author = {Edward Moroshko and Koby Crammer},
  journal= {arXiv preprint arXiv:1301.6058},
  year   = {2013}
}