中文

具有复合损失函数的在线学习

机器学习 2014-05-20 v1

摘要

我们研究一类新的在线学习问题,其中在线算法的每个动作都被赋予一个对抗性值,且算法在每一步的损失是其最近动作所赋值的已知确定性函数。该类包括算法损失为最近对抗性值的最小值、最大值或最近值的线性组合等问题。我们分析了此类问题在算法接收 bandit 反馈时的 minimax 遗憾,并证明当使用最小值或最大值函数时,minimax 遗憾为 Ω~(T2/3)\tilde \Omega(T^{2/3})(即所谓的困难在线学习问题),而当使用线性函数时,minimax 遗憾为 O~(T)\tilde O(\sqrt{T})(即所谓的简单学习问题)。此前,唯一已知可被证明为困难的在线学习问题是具有切换成本的多臂老虎机问题。

关键词

引用

@article{arxiv.1405.4471,
  title  = {Online Learning with Composite Loss Functions},
  author = {Ofer Dekel and Jian Ding and Tomer Koren and Yuval Peres},
  journal= {arXiv preprint arXiv:1405.4471},
  year   = {2014}
}