针对伪单调随机变分不等式问题及其变体的最优随机外梯度方案
最优化与控制
2019-11-25 v4
摘要
我们考虑随机变分不等式问题,其中映射在分量意义上是期望值的。现有的随机逼近方案的收敛理论和速率陈述大多局限于单调映射。然而,非单调随机变分不等式问题并不罕见,且见于产品定价、分数优化问题以及经济均衡问题的子类中。出于解决更广泛类别映射的需求,我们做出以下贡献:(i) 我们提出了一种基于外梯度的随机逼近方案,并证明在伪单调性要求或适当定义的锐角条件下,迭代收敛于原问题的解。这些陈述被证明可推广至随机镜像近邻框架;(ii) 在强伪单调性下,我们表明由外梯度 SA 方案产生的解迭代中的均方误差以 O(1/k) 的最优速率收敛,这是此前在该机制中尚未获得的陈述。值得注意的是,我们通过获得不连续非凸函数的 {\epsilon}-下确界来优化初始步长。类似的陈述推导自镜像近邻推广,并可在弱尖锐性要求下容纳单调 SVI。最后,在一组变分问题上研究了方案的渐近性和经验速率,结果表明理论指定的初始步长带来了显著的性能提升。
引用
@article{arxiv.1410.1628,
title = {Optimal stochastic extragradient schemes for pseudomonotone stochastic variational inequality problems and their variants},
author = {Aswin Kannan and Uday V. Shanbhag},
journal= {arXiv preprint arXiv:1410.1628},
year = {2019}
}
备注
Computational Optimization and Applications, 2019