极小极大博弈中重球动量的连续时间分析
计算机科学与博弈论
2025-05-27 v1 机器学习
摘要
自 Polyak 的开创性工作以来，重球 (HB) 动量在最小化问题中得到了广泛研究。然而，其在极小极大博弈中的作用在很大程度上仍未被探索。作为 Adam 等实用极小极大算法的关键组件，这一空白限制了它们的有效性。本文对极小极大博弈中具有同步和交替更新方案的 HB 进行了连续时间分析。在局部层面，我们证明了较小的动量通过在更广泛的步长范围内实现局部收敛来增强算法稳定性，其中交替更新通常收敛更快。在全局层面，我们研究了 HB 的隐式正则化，发现较小的动量引导算法轨迹趋向于损失景观中坡度较浅的区域，而交替更新会放大这一效应。令人惊讶的是，所有这些现象均不同于在最小化问题中观察到的现象，在最小化中较大的动量会产生类似效应。我们的结果揭示了极小极大博弈与最小化问题中 HB 之间的根本差异，且数值实验进一步验证了我们的理论结果。
引用
@article{arxiv.2505.19537,
title = {Continuous-Time Analysis of Heavy Ball Momentum in Min-Max Games},
author = {Yi Feng and Kaito Fujii and Stratis Skoulakis and Xiao Wang and Volkan Cevher},
journal= {arXiv preprint arXiv:2505.19537},
year = {2025}
}
备注
Accepted for ICML 2025