一种用于有限和变分不等式与优化的加速方差缩减外点法
最优化与控制
2025-09-12 v2
摘要
本文中,我们开发了用于求解一类有限和半变分不等式(HVI)问题的随机方差缩减算法。在该HVI问题中,相关函数假定可微,且向量映射与函数均具有有限和结构。我们提出两种算法分别求解向量映射仅单调或强单调而函数假定凸的情况。我们展示了当此类HVI问题具有有限和结构时如何在所提算法中应用方差缩减,所得加速梯度复杂度可匹配针对有限和VI问题建立的最佳界,以及分别由直接Katyusha针对有限和优化给出的界,就相应参数如(梯度)Lipschitz常数和有限和大小而言。我们通过求解一个有限和约束有限和优化问题展示了算法的应用,并给出了初步数值结果。
引用
@article{arxiv.2211.03269,
title = {An Accelerated Variance Reduced Extra-Point Approach to Finite-Sum VI and Optimization},
author = {Kevin Huang and Nuozhou Wang and Shuzhong Zhang},
journal= {arXiv preprint arXiv:2211.03269},
year = {2025}
}
备注
51 pages, 4 figures