非凸非凹极小极大优化中邻近点法的景观
最优化与控制
2021-04-02 v3 机器学习
机器学习
摘要
极小极大优化已成为机器学习中的核心工具，应用于鲁棒优化、强化学习、GANs 等。这些应用通常是非凸非凹的，但现有理论无法识别并处理由此带来的根本困难。本文研究经典邻近点法（PPM）应用于非凸非凹极小极大问题。我们发现 Attouch 与 Wets 对 Moreau 包络的经典推广提供了关键洞见。关键的是，我们表明该包络不仅平滑目标函数，还能基于最小化与最大化变量之间交互作用的强度对其凸化与凹化。由此，我们识别出非凸非凹问题的三个不同区域。当交互作用足够强时，我们导出全局线性收敛保证；反之当交互作用相当弱时，我们在适当初始化下导出局部线性收敛保证。在这两种情形之间，我们表明 PPM 可能发散或收敛至极限环。
引用
@article{arxiv.2006.08667,
title = {The Landscape of the Proximal Point Method for Nonconvex-Nonconcave Minimax Optimization},
author = {Benjamin Grimmer and Haihao Lu and Pratik Worah and Vahab Mirrokni},
journal= {arXiv preprint arXiv:2006.08667},
year = {2021}
}
备注
Notably updated version that connects our theory with that of Attouch and Wets from the 80s and notably expands on our first posting to apply to generic minimax problems (rather than requiring bilinear interaction)