中文

随机双层变分不等式问题的正则化算子外推方法

最优化与控制 2025-05-16 v1

摘要

双层变分不等式(BVI)问题是一个通用模型,涵盖了多种优化问题,包括 VI 约束优化和带均衡约束的均衡问题(EPECs)。本文提出了一种针对内层和外层均为随机单调算子的光滑或非光滑 BVI 的一阶方法。我们提出的新方法称为正则化算子外推(R-OpEx),是一种将 Tikhonov 正则化与算子外推相结合的单循环算法。该方法每次迭代仅需对每个算子进行一次算子求值,并追踪一个迭代序列。我们证明了 R-OpEx 在非光滑随机单调 BVI 中具有 O(ϵ4)\mathcal{O}(\epsilon^{-4}) 复杂度,其中 ϵ\epsilon 为内层和外层的误差。采用小批量方案,我们将外层复杂度改进为 O(ϵ2)\mathcal{O}(\epsilon^{-2}),同时在内层光滑随机时保持内层 O(ϵ4)\mathcal{O}(\epsilon^{-4}) 复杂度。此外,若内层光滑且确定性,我们证明复杂度为 O(ϵ2)\mathcal{O}(\epsilon^{-2})。最后,若外层强单调,我们对一般 BVI 改进至 O(ϵ4/5)\mathcal{O}(\epsilon^{-4/5}),当内层光滑且确定性时改进至 O(ϵ2/3)\mathcal{O}(\epsilon^{-2/3})。据我们所知,这是首次研究具有最佳已知收敛保证的非光滑随机 BVI 的工作。我们通过数值实验验证了理论结果。

关键词

引用

@article{arxiv.2505.09778,
  title  = {Regularized Operator Extrapolation Method For Stochastic Bilevel Variational Inequality Problems},
  author = {Mohammad Khalafi and Digvijay Boob},
  journal= {arXiv preprint arXiv:2505.09778},
  year   = {2025}
}