零阶非光滑凸优化与重尾对称噪声多臂赌博机问题的中位数截断法

本文考虑零阶预言机被对称随机噪声污染的非光滑凸优化问题。现有高概率结果要求噪声具有有界的 $\kappa$ 阶矩（$\kappa \in (1,2]$），与此不同，我们的结果允许任意 $\kappa > 0$ 的更重噪声，例如，噪声分布可以具有无界期望。我们的收敛速率匹配了有界方差情况下的已知最佳速率，即：为实现函数精度 $\varepsilon$，我们使用 Lipschitz 预言机的方法对于任意 $\kappa > 0$ 需要 $\tilde{O}(d^2\varepsilon^{-2})$ 次迭代。我们构建了以采样梯度差的小批量中位数作为具有有界二阶矩的中位数梯度估计。我们将此技术应用于具有重尾奖励分布的随机多臂赌博机问题，并实现了 $\tilde{O}(\sqrt{dT})$ 的遗憾。我们在合成数据和真实数据上展示了零阶和 MAB 算法在 $\kappa \in (0,2]$ 各种情况下的性能。我们的方法不逊于 SOTA 方法，并且在 $\kappa \leq 1$ 时显著优于它们。