非凸-强凹极小极大优化的线搜索与自适应步长
最优化与控制
2026-01-16 v1
摘要
在本文中,我们针对光滑的非凸-强凹(NC-SC)极小极大问题提出了一种新颖的重构,将其转化为一个联合最小化问题。我们证明,我们的重构不仅保留了一阶平稳性,还保留了原始 NC-SC 问题的全局和局部最优性、二阶平稳性以及 Kurdyka-Łojasiewicz(KL)性质,这比文献中其非光滑对应物要强得多。借助这些增强的结构,我们设计了一个通用的无参数非单调线搜索框架,该框架无需评估内部最大化。在温和条件下,可以获得全局收敛速率,并且,借助 KL 性质,还建立了具有渐近速率的全序列收敛性。特别地,我们展示了我们的框架与梯度下降-上升(GDA)算法兼容。通过为 GDA 配备 Barzilai-Borwein(BB)步长和非单调线搜索,我们的方法在数值性能上优于对比基准。
引用
@article{arxiv.2601.10086,
title = {Line-search and Adaptive Step Sizes for Nonconvex-strongly-concave Minimax Optimization},
author = {Bohao Ma and Nachuan Xiao and Junyu Zhang},
journal= {arXiv preprint arXiv:2601.10086},
year = {2026}
}
备注
25 pages