目标投毒下的不可知学习：最优速率与随机性的作用

我们研究了在存在对手情况下的学习问题，该对手能够破坏 $\eta$ 比例的训练样本，其目标是在特定测试点上导致失败。在可实现设定下，先前的工作已经确定，在此类实例目标投毒攻击下的最优误差规模为 $\Theta(d\eta)$，其中 $d$ 是假设类的VC维 arXiv:2210.02713。在这项工作中，我们解决了不可知设定中的相应问题。我们证明最优超额误差为 $\tilde{\Theta}(\sqrt{d\eta})$，回答了 Hanneke et al. 留下的主要开放问题之一。为了达到这一速率，必须使用随机化学习器：Hanneke et al. 表明，即使在少量投毒下，确定性学习器也可能被迫承受接近1的误差。也许令人惊讶的是，即使学习器的随机比特对对手完全可见，我们的上界依然成立。在另一方面，我们的下界比标准PAC式界更强：我们不是为每个样本量单独定制一个困难分布，而是展示了一个单一固定分布，在该分布下对手可以无穷次地强制产生 $\Omega(\sqrt{d\eta})$ 的超额误差。