模型维度的毒害

本文深化了对机器学习模型尺寸如何影响其对投毒脆弱性的理解，尽管存在最先进的防御措施。给定各向同性随机诚实特征向量，并以几何中位数(或修剪均值)作为稳健的梯度聚合规则，我们基本上证明了或许出乎意料的是，具有$D \geq 169 H^2/P^2$参数的线性和逻辑回归模型将面临来自投毒者的任意模型操纵，其中$H$和$P$分别是用于训练的诚实标注数据点和投毒数据点的数量。我们的实验进一步揭示了在合成数据以及用于线性分类器的MNIST 与FashionMNIST 数据集上，增加模型表达力性与增加投毒者攻击面之间的根本性权衡。我们还讨论了对源基于学习和神经网络的潜在影响。