博弈中基于频率的超参数选择
机器学习
2026-01-27 v1
摘要
由于旋转动力学使得经典的超参数调优策略失效,光滑博弈中的学习与标准最小化有着根本的不同。尽管在博弈中进行调优具有重要的实际意义,但有效的方法仍未得到充分探索。一个著名的例子是 LookAhead (LA),它实现了强大的经验性能,但引入了严重影响性能的额外参数。我们提出了一种有原则的博弈中超参数选择方法,该方法利用了振荡动力学的频率估计。具体而言,我们在连续时间轨迹中以及通过相关频率空间中离散动力学的频谱分析了振荡。基于此分析,我们引入了 \emph{Modal LookAhead (MoLA)},它是 LA 的扩展,能够针对给定问题自适应地选择超参数。我们提供了收敛性保证,并在实验中证明,MoLA 在纯旋转博弈和混合机制中都能加速训练,且所有这些都具有极小的计算开销。
引用
@article{arxiv.2601.18409,
title = {Frequency-Based Hyperparameter Selection in Games},
author = {Aniket Sanyal and Baraah A. M. Sidahmed and Rebekka Burkholz and Tatjana Chavdarova},
journal= {arXiv preprint arXiv:2601.18409},
year = {2026}
}