中文

镜像下降邂逅固定分享(且无悔恨)

机器学习 2012-09-28 v2 机器学习

摘要

已知带有熵正则化项的镜像下降法能够实现关于维数呈对数级的移位悔恨 (shifting regret) 界。这通常通过精心设计的投影或权重共享技术来实现。通过一种新颖的统一分析,我们表明这两种方法在一种广义的悔恨概念(涵盖移位、自适应、折扣及其他相关悔恨)上提供了本质等价的界。我们的分析还捕捉并扩展了 Bousquet 和 Warmuth 的广义权重共享技术,并可在多个方面进行细化,包括针对小损失的改进以及参数的自适应调节。

关键词

引用

@article{arxiv.1202.3323,
  title  = {Mirror Descent Meets Fixed Share (and feels no regret)},
  author = {Nicolò Cesa-Bianchi and Pierre Gaillard and Gabor Lugosi and Gilles Stoltz},
  journal= {arXiv preprint arXiv:1202.3323},
  year   = {2012}
}