重尾线性多臂盒子问题：基于单遍更新的 Huber 回归

本文研究带重尾噪声的随机线性多臂盒子问题。两种处理重尾噪声的方法——截断法和中位数均值法——已被引入重尾多臂盒子中。然而，这些方法依赖于特定的噪声假设或多臂盒子结构，限制了其在通用情景下的适用性。近期工作[Huang等2024]通过自适应 Huber 回归提出了一种软截断方法，以解决上述局限性。然而，该方法存在不必要的计算开销：需存储所有历史数据，并在每个回合中对这些数据进行完整遍历。本文提出一种基于在线镜像梯度框架的单遍算法。该方法仅使用当前数据进行更新，将每回合计算复杂度从 $\mathcal{O}(t \log T)$ 降低到 $\mathcal{O}(1)$（相对于当前回合 $t$ 和时间范围 $T$），并实现近似最优且具有方差感知特性的 regret，阶数为 $\widetilde{\mathcal{O}}\big(d T^{\frac{1-\epsilon}{2(1+\epsilon)}} \sqrt{\sum_{t=1}^T \nu_t^2} + d T^{\frac{1-\epsilon}{2(1+\epsilon)}}\big)$，其中 $d$ 为维数，$\nu_t^{1+\epsilon}$ 为第 $t$ 回合奖励的 $(1+\epsilon)$ 次中心矩。