一类非凸-非凹极小极大问题的零阶交替梯度下降上升算法
最优化与控制
2023-05-30 v2 机器学习
机器学习
摘要
在本文中，我们考虑一类非凸-非凹极小极大问题，即 NC-PL 极小极大问题，其目标函数关于内层变量满足 Polyak-Łojasiewicz (PL) 条件。我们分别针对确定性和随机性设定，提出了零阶交替梯度下降上升（ZO-AGDA）算法和零阶方差缩减交替梯度下降上升（ZO-VRAGDA）算法来求解 NC-PL 极小极大问题。ZO-AGDA 和 ZO-VRAGDA 算法求解 NC-PL 极小极大问题以获得一个 -驻点所需的函数值查询总数分别被 和 从上界限制。据我们所知，它们是首批具有迭代复杂度保证的用于求解 NC-PL 极小极大问题的零阶算法。
引用
@article{arxiv.2211.13668,
title = {Zeroth-Order Alternating Gradient Descent Ascent Algorithms for a Class of Nonconvex-Nonconcave Minimax Problems},
author = {Zi Xu and Zi-Qi Wang and Jun-Lin Wang and Yu-Hong Dai},
journal= {arXiv preprint arXiv:2211.13668},
year = {2023}
}