当恶意离群点污染标签时，ERM 与 RERM 是回归问题的最优估计量

我们研究了具有凸且 $L$-Lipschitz 损失函数的回归问题中的经验风险最小化（ERM）与正则化经验风险最小化（RERM）。我们考虑一个由 $|\cO|$ 个恶意离群点污染标签的设置。在此情形下，在局部 Bernstein 条件下，我们证明 $L_2$ 误差率被 $r_N + AL |\cO|/N$ 所界，其中 $N$ 为观测总数，$r_N$ 为无污染设置下的 $L_2$ 误差率，$A$ 为来自局部 Bernstein 条件的参数。当 $r_N$ 在无污染设置下为极小极大率最优时，若有 $|\cO|$ 个离群点污染标签，则速率 $r_N + AL|\cO|/N$ 也是极小极大率最优的。本文的主要结果可用于许多非正则化与正则化过程，且对噪声的假设较弱。我们给出了 Huber 的 M-估计量（无惩罚或以 $\ell_1$ 范数正则化）以及在可再现核 Hilbert 空间中噪声可为重尾时的通用正则化学习问题的结果。