通过梯度下降上升法求解具有隐藏结构的极小极大优化问题
最优化与控制
2021-01-14 v1 计算机科学与博弈论
机器学习
机器学习
摘要
许多近期的人工智能架构受到零和博弈的启发，然而其动力学行为仍未被充分理解。受此启发，我们在一类特定的非凸非凹零和博弈中研究标准的梯度下降上升（GDA）动力学，我们称之为隐藏零和博弈。在此类中，参与者控制光滑但可能非线性的函数的输入，这些函数的输出被用作一个凸凹博弈的输入。与一般的零和博弈不同，这些博弈具有明确定义的解的概念；即实现“隐藏”凸凹博弈的冯·诺依曼均衡的结果。我们证明，如果隐藏博弈是严格凸凹的，那么朴素GDA不仅收敛到局部纳什均衡，而且通常收敛到冯·诺依曼解。如果博弈缺乏严格凸性性质，GDA可能无法收敛到任何均衡，然而，通过应用标准正则化技术，我们可以证明收敛到略微扰动的零和博弈的冯·诺依曼解。我们的收敛保证是非局部的，据我们所知，这是非凸非凹博弈中首类此类结果。最后，我们讨论了我们的框架与生成对抗网络（GAN）的联系。
引用
@article{arxiv.2101.05248,
title = {Solving Min-Max Optimization with Hidden Structure via Gradient Descent Ascent},
author = {Lampros Flokas and Emmanouil-Vasileios Vlatakis-Gkaragkounis and Georgios Piliouras},
journal= {arXiv preprint arXiv:2101.05248},
year = {2021}
}