随机双层变分不等式问题的正则化算子外推方法
最优化与控制
2025-05-16 v1
摘要
双层变分不等式(BVI)问题是一个通用模型,涵盖了多种优化问题,包括 VI 约束优化和带均衡约束的均衡问题(EPECs)。本文提出了一种针对内层和外层均为随机单调算子的光滑或非光滑 BVI 的一阶方法。我们提出的新方法称为正则化算子外推(R-OpEx),是一种将 Tikhonov 正则化与算子外推相结合的单循环算法。该方法每次迭代仅需对每个算子进行一次算子求值,并追踪一个迭代序列。我们证明了 R-OpEx 在非光滑随机单调 BVI 中具有 复杂度,其中 为内层和外层的误差。采用小批量方案,我们将外层复杂度改进为 ,同时在内层光滑随机时保持内层 复杂度。此外,若内层光滑且确定性,我们证明复杂度为 。最后,若外层强单调,我们对一般 BVI 改进至 ,当内层光滑且确定性时改进至 。据我们所知,这是首次研究具有最佳已知收敛保证的非光滑随机 BVI 的工作。我们通过数值实验验证了理论结果。
引用
@article{arxiv.2505.09778,
title = {Regularized Operator Extrapolation Method For Stochastic Bilevel Variational Inequality Problems},
author = {Mohammad Khalafi and Digvijay Boob},
journal= {arXiv preprint arXiv:2505.09778},
year = {2025}
}