Minimax与固定点问题的最优加速并非唯一
最优化与控制
2024-04-25 v2
摘要
最近提出了基于锚定机制的Minimax优化和固定点问题的加速算法,并给出了匹配的复杂度下界以证明其最优性。本文提出了一个令人惊讶的观察:Minimax优化和固定点问题的最优加速机制并非唯一。我们新的算法在最坕情况下收敛率上完全等同于现有的基于锚定的方法,却采用了根本不同的加速机制。具体而言,这些新算法在H对偶性意义上是先前基于锚定的加速方法的对偶。这一发现为加速算法的研究开辟了新的方向,因为我们现在拥有一族在最坕情况下保障相同优势、但在实验特性上呈现多样性的方法。
引用
@article{arxiv.2404.13228,
title = {Optimal Acceleration for Minimax and Fixed-Point Problems is Not Unique},
author = {TaeHo Yoon and Jaeyeon Kim and Jaewook J. Suh and Ernest K. Ryu},
journal= {arXiv preprint arXiv:2404.13228},
year = {2024}
}