面向光滑博弈的随机哈密顿梯度方法
机器学习
2020-07-09 v1 计算机科学与博弈论
最优化与控制
机器学习
摘要
对抗式形式在机器学习中的成功为光滑博弈带来了新的研究动力。在这项工作中，我们关注随机哈密顿方法类，并针对特定类的随机光滑博弈给出了首个收敛性保证。我们提出了一种用于随机哈密顿梯度下降（SHGD）的新无偏估计器，并强调了其优势。利用优化领域的工具，我们证明 SHGD 线性收敛到驻点邻域。为保证收敛到精确解，我们分析了采用递减步长的 SHGD，并给出了首个随机方差缩减哈密顿方法。我们的结果针对随机无约束双线性博弈类以及满足“充分双线性”条件的更一般随机博弈类（显著地包含一些非凸非凹问题）提供了首个全局非渐近末次迭代收敛保证。我们通过随机双线性和充分双线性博弈上的实验补充了分析，其中我们的理论被证明是紧的，并在简单对抗式机器学习形式上进行了验证。
引用
@article{arxiv.2007.04202,
title = {Stochastic Hamiltonian Gradient Methods for Smooth Games},
author = {Nicolas Loizou and Hugo Berard and Alexia Jolicoeur-Martineau and Pascal Vincent and Simon Lacoste-Julien and Ioannis Mitliagkas},
journal= {arXiv preprint arXiv:2007.04202},
year = {2020}
}
备注
ICML 2020 - Proceedings of the 37th International Conference on Machine Learning