中文

基于自和谐性的对数损失下极小极大遗憾的紧界

机器学习 2020-08-04 v2 机器学习

摘要

我们考虑在对数损失下进行序列概率分配的经典问题,同时与任意、可能非参数的专家类竞争。我们通过一种利用对数损失自和谐性质的新方法,获得了极小极大遗憾的紧界。我们证明,对于任何在尺度 γ\gamma 处具有(序列)度量熵 O(γp)\mathcal{O}(\gamma^{-p}) 的专家类,极小极大遗憾为 O(np/(p+1))\mathcal{O}(n^{p/(p+1)}),并且在不对所考虑的专家类附加额外假设的情况下,该速率无法改进。作为我们技术的一个应用,我们解决了非参数 Lipschitz 专家类的极小极大遗憾问题。

关键词

引用

@article{arxiv.2007.01160,
  title  = {Tight Bounds on Minimax Regret under Logarithmic Loss via Self-Concordance},
  author = {Blair Bilodeau and Dylan J. Foster and Daniel M. Roy},
  journal= {arXiv preprint arXiv:2007.01160},
  year   = {2020}
}

备注

25 pages