梯度方法求解极小极大博弈的局部收敛性:部分曲率通常已足够
最优化与控制
2023-11-08 v2 计算机科学与博弈论
机器学习
摘要
我们研究二人零和微分博弈中梯度方法对局部纳什均衡的收敛性。众所周知,当时此类动态局部收敛,而当时可能发散,其中为均衡处雅可比矩阵的对称部分,刻画了博弈的“势”分量。我们证明只要非零(部分曲率)且反对称部分的特征向量相对于的核处于一般位置,这些动态亦收敛。随后我们研究时的收敛速率,并证明它们通常依赖于特征值的平均值,而非如最小化问题的类比所暗示的最小值。为说明结果,我们考虑计算连续博弈混合纳什均衡的问题。我们表明,得益于部分曲率,圆锥粒子方法——在混合策略的权重与支持上均优化——通常比固定支持方法收敛更快。对于极小极大博弈,因此有益的是添加“带曲率”的自由度:这可被解释为过参数化的又一益处。
引用
@article{arxiv.2305.17275,
title = {Local Convergence of Gradient Methods for Min-Max Games: Partial Curvature Generically Suffices},
author = {Guillaume Wang and Lénaïc Chizat},
journal= {arXiv preprint arXiv:2305.17275},
year = {2023}
}
备注
37 pages, 2 figures, 2 tables, to appear in NeurIPS 2023 Proceedings