关于随机块坐标下降法的复杂度分析

本文分析了文献 [8,11] 中提出的用于最小化光滑凸函数与块可分凸函数之和的随机块坐标下降 (RBCD) 方法。特别地，我们将 Nesterov 在文献 [8] 中开发的用于分析在块可分闭凸集上最小化光滑凸函数的 RBCD 方法的技术，扩展至上述更一般的问题，并获得了一个比文献 [11] 所隐含的更尖锐的期望值型收敛速率。此外，我们获得了一个更好的高概率型迭代复杂度，其相较于文献 [11] 中的结果至少改进了 $O(n/\epsilon)$ 的量级，其中 $\epsilon$ 是目标解精度，$n$ 是问题块的数量。另外，针对无约束光滑凸最小化问题，我们开发了一种称为“随机估计序列”的新技术，用以分析 Nesterov [11] 提出的加速 RBCD 方法，并建立了比文献 [11] 给出的更尖锐的期望值型收敛速率。