中文

遗憾最小化中增益与损失本质不同:稀疏情形

机器学习 2015-11-30 v1 机器学习

摘要

我们证明,在具有 dd 个决策的经典非随机遗憾最小化问题中,待分别最大化或最小化的增益与损失存在本质差异。事实上,通过考虑额外的稀疏性假设(在每个阶段,至多 ss 个决策产生非零结果),我们推导出了不同阶的最优遗憾界。具体而言,对于增益,我们在 TT 个阶段后获得了阶为 Tlogs\sqrt{T\log s} 的最优遗憾保证,从而将经典的对维度的依赖替换为稀疏度大小。对于损失,我们给出了阶为 Tslog(d)/d\sqrt{Ts\log(d)/d} 的匹配上界与下界,该界随 dd 递减。最后,我们还研究了赌博机(bandit)设定,并在结果为损失时获得了阶为 Tslog(d/s)\sqrt{Ts\log (d/s)} 的上界。该上界被证明在至多对数因子 log(d/s)\sqrt{\log(d/s)} 的意义下是最优的。

关键词

引用

@article{arxiv.1511.08405,
  title  = {Gains and Losses are Fundamentally Different in Regret Minimization: The Sparse Case},
  author = {Joon Kwon and Vianney Perchet},
  journal= {arXiv preprint arXiv:1511.08405},
  year   = {2015}
}