中文

用 Blackwell 可逼近性求解优化问题

最优化与控制 2022-02-25 v1 机器学习

摘要

我们引入了锥 Blackwell 算法+^+(CBA+^+)遗憾最小化器,这是一种针对一般凸集的新的无参数且无尺度依赖的遗憾最小化器。CBA+^+ 基于 Blackwell 可逼近性,并达到 O(T)O(\sqrt{T}) 遗憾。我们展示了如何为许多感兴趣的决策集(包括单纯形、p\ell_{p} 范数球以及单纯形中的椭球置信区域)高效地实例化 CBA+^+。基于 CBA+^+,我们引入了 SP-CBA+^+,一种用于求解凸凹鞍点问题的新的无参数算法,其达到了 O(1/T)O(1/\sqrt{T}) 的遍历收敛速率。在我们的模拟中,我们展示了 SP-CBA+^+ 在若干标准鞍点问题上的广泛适用性,包括矩阵博弈、扩展式博弈、分布鲁棒逻辑回归以及马尔可夫决策过程。在每种设定下,SP-CBA+^+ 均取得了最先进的数值性能,并优于经典方法,且无需选择任何步长或其他算法参数。

关键词

引用

@article{arxiv.2202.12277,
  title  = {Solving optimization problems with Blackwell approachability},
  author = {Julien Grand-Clément and Christian Kroer},
  journal= {arXiv preprint arXiv:2202.12277},
  year   = {2022}
}

备注

arXiv admin note: text overlap with arXiv:2105.13203