松弛光滑性假设下变分不等式的自适应方法
最优化与控制
2024-02-09 v1
摘要
变分不等式 (VI) 问题因其在对抗性和多智能体训练中的应用而引起了机器学习 (ML) 社区的极大兴趣。尽管其在 ML 中具有相关性，但 VI 问题上常用的强单调性和 Lipschitz 连续性假设具有局限性，在实践中并不成立。为解决这一问题，我们放宽了光滑性和单调性假设，并研究了结构化的非单调广义光滑性。我们结果的关键思想在于自适应步长。我们证明了求解广义光滑 VI 的三种流行方法（即投影法、Korpelevich 法和 Popov 法）的首个已知收敛结果。我们关于广义光滑 VI 的收敛率结果匹配或改进了关于光滑 VI 的现有结果。我们提出了数值实验，支持我们的理论保证并突出了所提出的自适应步长的效率。
引用
@article{arxiv.2402.05691,
title = {Adaptive Methods for Variational Inequalities under Relaxed Smoothness Assumption},
author = {Daniil Vankov and Angelia Nedich and Lalitha Sankar},
journal= {arXiv preprint arXiv:2402.05691},
year = {2024}
}