局部求解极小极大优化：一种沿脊跟随方法
机器学习
2019-11-26 v2 最优化与控制
机器学习
摘要
现代机器学习中的许多任务可被形式化为寻找序贯博弈中的均衡。特别是二人零和序贯博弈，即极小极大优化，已受到越来越多的关注。鉴于梯度下降在监督学习中的流行与成功，将其应用于求解极小极大优化颇具吸引力。然而，已有研究指出，直接应用梯度下降无法找到某些局部极小极大点，并可能收敛到非局部极小极大点。本文提出沿脊跟随（FR）算法，一种可证明收敛且仅收敛到局部极小极大点的新算法。我们从理论上证明该算法解决了梯度动力学中臭名昭著的旋转行为，并与预条件及正动量兼容。实验表明，FR 解决了玩具极小极大问题，且与近期极小极大优化算法相比，改善了 GAN 训练的收敛性。
引用
@article{arxiv.1910.07512,
title = {On Solving Minimax Optimization Locally: A Follow-the-Ridge Approach},
author = {Yuanhao Wang and Guodong Zhang and Jimmy Ba},
journal= {arXiv preprint arXiv:1910.07512},
year = {2019}
}
备注
21 pages