用于近最优且无参数的单调包含与变分不等式强解的 Halpern 迭代
最优化与控制
2020-04-14 v3 数据结构与算法
机器学习
摘要
我们利用非扩张映射、单调 Lipschitz 算子与邻近映射之间的联系，获得用于求解单调包含问题的近最优（即就迭代复杂度而言至多相差多对数因子的最优）且无参数方法。这些结果立即转化为逼近变分不等式问题强解、逼近凸凹极小极大优化问题以及在极小极大优化问题中最小化梯度范数的近最优保证。我们的分析基于一种新颖且简单的、基于势函数的 Halpern 迭代收敛证明，Halpern 迭代是求非扩张映射不动点的经典迭代。此外，我们提供了一系列算法归约，揭示了不同问题类之间的联系，并给出了证明所研究方法的近最优性的下界。
引用
@article{arxiv.2002.08872,
title = {Halpern Iteration for Near-Optimal and Parameter-Free Monotone Inclusion and Strong Solutions to Variational Inequalities},
author = {Jelena Diakonikolas},
journal= {arXiv preprint arXiv:2002.08872},
year = {2020}
}
备注
23 pages; v1->v2: added acknowledgements and some more related work; v2 -> v3: fixed a small typo in the proof of Lemma 2.1