关于随机 Cartesian 变分不等式的随机 mirror-prox 算法：随机分块坐标与最优平均方案
最优化与控制
2018-01-16 v3
摘要
受不确定环境下多用户优化问题和非合作 Nash 博弈的启发，我们考虑随机 Cartesian 变分不等式（SCVI），其中集合由一组组件集的笛卡尔积给出。首先，我们考虑组件集数量很大的情况。为了求解此类问题，经典的随机近似方法及其 prox 推广在计算上效率低下，因为每次迭代的代价非常高。为了应对这一挑战，我们开发了一种随机分块随机 mirror-prox（B-SMP）算法，其中每次迭代仅通过执行两个连续的投影步骤来更新解的一个随机选择的分块坐标。在关于问题和算法设置的标准假设下，我们证明了当映射是严格伪单调的时，该算法生成的迭代序列几乎必然收敛到问题的解。为了推导收敛速率，我们假设映射是强伪单调的，并获得了非渐近均方误差 ，其中 是迭代次数， 是组件集的数量。其次，我们考虑具有凸目标函数的大规模随机优化问题。对于这类问题，我们为 B-SMP 算法开发了一种新的平均方案。与使用递减权重集进行平均序列的经典平均随机 mirror-prox（SMP）方法不同，这里我们考虑一组由步长和一个参数表征的不同权重。我们证明了使用这样的权重，平均序列的目标值在均值意义上以 的速率收敛到最优值。
引用
@article{arxiv.1610.08195,
title = {On stochastic mirror-prox algorithms for stochastic Cartesian variational inequalities: randomized block coordinate and optimal averaging schemes},
author = {Farzad Yousefian and Angelia Nedich and Uday V. Shanbhag},
journal= {arXiv preprint arXiv:1610.08195},
year = {2018}
}