关于对抗机器学习中数据集内在属性的研究
机器学习
2020-05-20 v1 机器学习
摘要
深度神经网络（DNNs）在广泛的机器学习应用中发挥了关键作用。然而，DNN分类器易受人类难以察觉的对抗扰动影响，这些扰动可使其以高置信度误分类输入。因此，在安全性起重要作用的应用中，创建能够防御恶意样本的鲁棒DNN至关重要。本文中，我们研究了数据集内在属性对对抗攻击与防御方法性能的影响，在五个流行的图像分类数据集——MNIST、Fashion-MNIST、CIFAR10/CIFAR100和ImageNet上进行了测试。我们发现输入尺寸和图像对比度在攻击与防御成功中起着关键作用。我们的发现强调，数据集设计与数据预处理步骤对提升DNN的对抗鲁棒性十分重要。据我们所知，这是首个研究数据集内在属性对对抗机器学习影响综合性工作。
引用
@article{arxiv.2005.09170,
title = {On Intrinsic Dataset Properties for Adversarial Machine Learning},
author = {Jeffrey Z. Pan and Nicholas Zufelt},
journal= {arXiv preprint arXiv:2005.09170},
year = {2020}
}
备注
12 pages, 9 figures