极小极大优化的牛顿型方法
机器学习
2023-02-21 v3 最优化与控制
机器学习
摘要
微分博弈，尤其是二人序贯零和博弈（又称极小极大优化），一直是应用科学中的重要建模工具，并因许多近期应用（如对抗训练、生成模型与强化学习）在机器学习中重获关注。然而，现有理论大多聚焦于凸—凹函数，例外甚少。本工作中，我们提出两种用于非凸—非凹极小极大优化的新颖牛顿型算法。我们证明了它们在严格局部极小极大点（全局解的替代）处的局部收敛性。我们认为我们的牛顿型算法很好地补充了现有算法，因为（a）它们更快收敛至严格局部极小极大点；（b）在问题病态时更为有效；（c）其计算复杂度保持相近。我们通过在训练本质非凸且病态的 GANs 上的实验验证了牛顿型算法的有效性。我们的代码可在 https://github.com/watml/min-max-2nd-order 获取。
引用
@article{arxiv.2006.14592,
title = {Newton-type Methods for Minimax Optimization},
author = {Guojun Zhang and Kaiwen Wu and Pascal Poupart and Yaoliang Yu},
journal= {arXiv preprint arXiv:2006.14592},
year = {2023}
}
备注
code update