中文

通过拉普拉斯变换理解 Lookahead 动力学

最优化与控制 2025-06-17 v1 机器学习 机器学习

摘要

我们引入了一个频域框架,用于游戏优化中超参数的收敛分析,利用高分辨率微分方程(HRDEs)和拉普拉斯变换。聚焦于 Lookahead 算法——由梯度步数 kk 和平均系数 α\alpha 表征——我们将双线性游戏的离散时间振荡动力学变换到频域,以推导精确的收敛准则。我们更高精度的 O(γ2)O(\gamma^2)-HRDE 模型给出了更紧的准则,而我们的一阶 O(γ)O(\gamma)-HRDE 模型通过优先考虑可操作的超参数调优而非复杂的闭式解,提供了实用的指导。离散时间设置中的经验验证证明了我们方法的有效性,该方法可进一步推广到局部线性算子,为游戏中学习的超参数选择提供了一个可扩展的框架。

关键词

引用

@article{arxiv.2506.13712,
  title  = {Understanding Lookahead Dynamics Through Laplace Transform},
  author = {Aniket Sanyal and Tatjana Chavdarova},
  journal= {arXiv preprint arXiv:2506.13712},
  year   = {2025}
}