双平滑乐观梯度:面向光滑 Minimax 问题的通用方法
高能物理 - 唯象学
2025-06-10 v1
摘要
光滑的 Minimax 优化问题在机器学习、博弈论和运筹学等众多应用中发挥着核心作用。然而,现有的算法框架在问题结构上差异很大——是凸-凹、非凸-凹、凸-非凹,甚至是非凸-非凹且满足额外正则性条件的非凸问题。特别是,这种多样性使得调优步长参数变得复杂,因为即使验证凸性(或凹性)假设也困难且取决于具体问题。在本文中,我们引入了一种通用且单环算法——双平滑乐观梯度下降上升 (DS-OGDA),适用于广泛的光滑 Minimax 问题。具体而言,DS-OGDA 适用于包括凸-凹、非凸-凹、凸-非凹和非凸-非凹 Minimax 优化问题,且满足单侧 Kurdyka-Łojasiewicz (KL) 属性。DS-OGDA 使用一套通用的参数适用于该类问题的所有问题,无需先验知识即可确定步长参数。此外,当特定问题结构被指定时,DS-OGDA 能实现最优或既知最佳性能保证。总体而言,我们的结果为光滑 Minimax 优化提供了全面且通用的框架,弥合了凸问题与非凸问题结构之间的差距,简化了跨不同应用的算法策略选择。
引用
@article{arxiv.2506.07396,
title = {Propagation and Dynamics of Oscillating Tetraquark Systems},
author = {Sh. Janjan and G. R. Boroun},
journal= {arXiv preprint arXiv:2506.07396},
year = {2025}
}