采用参与者采样的外梯度法用于更快寻找纳什均衡
机器学习
2020-07-22 v5 机器学习
最优化与控制
摘要
数据驱动建模日益需要在多参与者博弈中寻找纳什均衡，例如在训练 GANs 时。本文分析了一种用于纳什均衡寻找的新外梯度法，其在每次迭代中对随机子集的参与者进行梯度外推与更新。该方法在具有噪声梯度预言机的非光滑凸博弈中被证明比全外梯度法具有更好的收敛速率。我们提出一种额外的方差缩减机制，以在光滑凸博弈中获得加速。我们的方法使外推适用于大规模多参与者场景，并带来经验加速，尤其在使用启发式循环采样方案时。最重要的是，它允许更快且更好地训练 GANs 与 GANs 的混合模型。
引用
@article{arxiv.1905.12363,
title = {Extragradient with player sampling for faster Nash equilibrium finding},
author = {Carles Domingo Enrich and Samy Jelassi and Carles Domingo-Enrich and Damien Scieur and Arthur Mensch and Joan Bruna},
journal= {arXiv preprint arXiv:1905.12363},
year = {2020}
}