广泛适用的定向数据样本遗漏攻击
机器学习
2021-05-06 v2
摘要
我们引入一种针对学习机制的新型干净标签定向投毒攻击。虽然经典投毒攻击通常通过添加、修改和遗漏来破坏数据，我们的攻击仅聚焦于数据遗漏。我们的攻击使所选的单个定向测试样本被误分类，且不操纵该样本。我们展示了遗漏攻击对包括深度神经网络、SVM 和决策树在内的多种学习器，以及使用包括 MNIST、IMDB 和 CIFAR 在内的多个数据集的有效性。我们的攻击仅聚焦于数据遗漏也是有益的，因为它更易于实现和分析。我们表明，在低攻击预算下，对于白盒学习，我们攻击的成功率高于 80%，某些情况下达 100%。对于黑盒学习，它系统性地高于参考基准。对于白盒与黑盒两种情况，无论具体学习器与数据集如何，模型准确率的改变均可忽略。我们还在简化的不可知 PAC 学习框架下从理论上证明，在数据集大小与分布的条件下，我们的遗漏攻击以高概率对任何成功的简化不可知 PAC 学习器取得成功。
引用
@article{arxiv.2105.01560,
title = {Broadly Applicable Targeted Data Sample Omission Attacks},
author = {Guy Barash and Eitan Farchi and Sarit Kraus and Onn Shehory},
journal= {arXiv preprint arXiv:2105.01560},
year = {2021}
}