求解一类极小极大优化问题的分散式自适应动量方法
最优化与控制
2021-08-10 v2 机器学习
机器学习
摘要
极小极大鞍点博弈近年来被深入研究，因其广泛应用，包括训练生成对抗网络（GANs）。然而，近期求解此类问题的大部分工作局限于凸-凹博弈等特殊情形。此外，通常假设底层优化问题由单台机器求解，或在以集中方式连接的多台机器上求解，其中每台机器与中心节点通信。当底层通信网络带宽较低时，后一种方法变得具有挑战性。另外，隐私考量可能要求某些节点仅能与部分其他节点通信。因此，开发以分散方式求解极小极大博弈的方法颇具意义。为此，我们开发了分散式自适应动量（ADAM）型算法，在目标函数满足 Minty 变分不等式条件（凸-凹情形的推广）下求解极小极大优化问题。所提方法克服了近期非自适应基于梯度的分散式极小极大优化算法的缺陷，这些算法在实践中表现不佳且需谨慎调参。本文中，我们获得了所提算法（称为 DADAM）寻找（随机）一阶纳什均衡点的非渐近收敛速率，并随后在训练 GANs 上评估其性能。大量实证评估表明 DADAM 优于近期开发的方法，包括用于求解此类极小极大问题的分散式乐观随机梯度法。
引用
@article{arxiv.2106.06075,
title = {A Decentralized Adaptive Momentum Method for Solving a Class of Min-Max Optimization Problems},
author = {Babak Barazandeh and Tianjian Huang and George Michailidis},
journal= {arXiv preprint arXiv:2106.06075},
year = {2021}
}