LEAD:从物理视角出发的极小极大优化
机器学习
2023-06-22 v4 计算机科学与博弈论
多智能体系统
最优化与控制
摘要
生成对抗网络(GANs)等对抗式形式重新激发了人们对双人极小极大博弈的兴趣。此类博弈优化的一个主要障碍是阻碍其收敛的旋转动力学。在本文中,我们表明博弈优化与受多种力作用的粒子系统具有动力学特性上的共性,并且可以利用物理学中的工具来改善优化动力学。受该物理框架的启发,我们提出了LEAD,一种用于极小极大博弈的优化器。接下来,利用李雅普诺夫稳定性理论和谱分析,我们研究了LEAD在一类二次极小极大博弈的连续和离散时间设定下的收敛性质,以证明到纳什均衡的线性收敛。最后,我们在合成设置和CIFAR-10图像生成上对我们的方法进行经验评估,以展示GAN训练中的改进。
引用
@article{arxiv.2010.13846,
title = {LEAD: Min-Max Optimization from a Physical Perspective},
author = {Reyhane Askari Hemmat and Amartya Mitra and Guillaume Lajoie and Ioannis Mitliagkas},
journal= {arXiv preprint arXiv:2010.13846},
year = {2023}
}