基于随机ADMM的非凸随机嵌套优化

我们考虑随机嵌套组合优化问题，其中目标函数为两个期望值函数的组合。我们提出随机 ADMM 来求解这一复杂目标。为找到一个 $\epsilon$ 平稳点，即相应增广拉格朗日函数次梯度期望范数小于 $\epsilon$，我们的方法在在线情形下的总样本复杂度为 $\mathcal{O}(\epsilon^{-3})$，在有限和情形下为 $\mathcal{O} \Bigl((2N_1 + N_2) + (2N_1 + N_2)^{1/2}\epsilon^{-2}\Bigr)$。计算复杂度与 \cite{zhang2019multi} 中提出的近端版本一致，但我们的算法可求解当惩罚项的近端映射不易计算时更一般的问题。