用于期望型 Lipschitz 连续函数约束极小化的零阶随机块方法

我们考虑在闭凸集的笛卡尔积上极小化一个 $L_0$-Lipschitz 连续且期望值的函数，记为 $f$，定义为 $f(x)\triangleq \mathbb{E}[\tilde{f}(x,\omega)]$，旨在获得计算近似驻点（Clarke 意义下）的渐近性、速率与复杂度保证。我们采用基于平滑的方法，依赖于极小化 $f_{\eta}$，其中 $f_{\eta}(x) \triangleq \mathbb{E}_{u}[f(x+\eta u)]$，$u$ 是定义在单位球上的随机变量，且 $\eta > 0$。事实上，观察到 $\eta$-平滑问题的驻点是原问题在 Clarke 意义下的 $2\eta$-驻点。在此设定下，我们推导出一个合适的残差函数，为平滑问题提供驻点度量。通过利用依赖于在块结构机制中实现的采样函数评估的零阶框架，我们对所提方案生成的序列做出两类贡献。（i）平滑问题的残差函数沿生成序列几乎必然趋于零；（ii）为计算一个确保 $\eta$-平滑问题残差期望范数在 $\epsilon$ 内的 $x$，所需投影步数不超过 $\mathcal{O}(\tfrac{1}{\eta \epsilon^2})$，函数评估次数不超过 $\mathcal{O}\left(\tfrac{1}{\eta^2 \epsilon^4}\right)$。这些结论似乎是新颖的，且似乎鲜有结果通过零阶方法处理一般非光滑、非凸和随机情形。