中文

梯度方法求解极小极大博弈的局部收敛性:部分曲率通常已足够

最优化与控制 2023-11-08 v2 计算机科学与博弈论 机器学习

摘要

我们研究二人零和微分博弈中梯度方法对局部纳什均衡的收敛性。众所周知,当S0S \succ 0时此类动态局部收敛,而当S=0S=0时可能发散,其中S0S\succeq 0为均衡处雅可比矩阵的对称部分,刻画了博弈的“势”分量。我们证明只要SS非零(部分曲率)且反对称部分AA的特征向量相对于SS的核处于一般位置,这些动态亦收敛。随后我们研究SAS \ll A时的收敛速率,并证明它们通常依赖于SS特征值的平均值,而非如最小化问题的类比所暗示的最小值。为说明结果,我们考虑计算连续博弈混合纳什均衡的问题。我们表明,得益于部分曲率,圆锥粒子方法——在混合策略的权重与支持上均优化——通常比固定支持方法收敛更快。对于极小极大博弈,因此有益的是添加“带曲率”的自由度:这可被解释为过参数化的又一益处。

关键词

引用

@article{arxiv.2305.17275,
  title  = {Local Convergence of Gradient Methods for Min-Max Games: Partial Curvature Generically Suffices},
  author = {Guillaume Wang and Lénaïc Chizat},
  journal= {arXiv preprint arXiv:2305.17275},
  year   = {2023}
}

备注

37 pages, 2 figures, 2 tables, to appear in NeurIPS 2023 Proceedings