用于随机单调包含问题的带方差缩减的随机Halpern迭代

我们研究随机单调包含问题，其广泛出现于机器学习应用中，包括鲁棒回归和对抗学习。我们提出了带有递归方差缩减的随机 Halpern 迭代的新变体。在余 coercive——更一般地 Lipschitz-单调——设定下，我们的算法以 $\mathcal{O}(\frac{1}{\epsilon^3})$ 次随机算子求值达到算子的 $\epsilon$ 范数，相比应用于同类问题的最先进的 $\mathcal{O}(\frac{1}{\epsilon^4})$ 次随机算子求值有显著改进。我们进一步展示了如何将所提随机 Halpern 迭代变体之一与调度重启方案耦合，在额外的锐化或强单调性假设下以 ${\mathcal{O}}(\frac{\log(1/\epsilon)}{\epsilon^2})$ 次随机算子求值求解随机单调包含问题。