通过极小化极大对偶的最优遗憾的随机视角
机器学习
2009-04-01 v1 机器学习
摘要
我们研究了在线凸优化博弈中最优策略的遗憾。利用冯·诺依曼的极小化极大定理，我们证明了在这个对抗性设定中的最优遗憾与随机过程设定中经验最小化算法的行为密切相关：它等于在对手行动序列的联合分布上，最小期望损失之和与最小经验损失之差的最大值。我们展示了最优遗憾具有自然的几何解释，因为它可以被视为定义在一组概率分布上的一个凹泛函（即玩家行动上期望损失的最小化）的 Jensen 不等式中的间隙。我们利用这个表达式获得了各种在线学习问题中最优策略遗憾的上界和下界。我们的方法无需构造学习算法即可提供上界；下界则为对手提供了显式的最优策略。
引用
@article{arxiv.0903.5328,
title = {A Stochastic View of Optimal Regret through Minimax Duality},
author = {Jacob Abernethy and Alekh Agarwal and Peter L. Bartlett and Alexander Rakhlin},
journal= {arXiv preprint arXiv:0903.5328},
year = {2009}
}