DAmageNet：一个通用对抗数据集
机器学习
2019-12-17 v1 计算机视觉与模式识别
图像与视频处理
机器学习
摘要
现已众所周知，深度神经网络（DNN）易受对抗攻击。对抗样本与干净样本相似，却能够欺骗被攻击的 DNN 以高置信度产生错误预测。但现有大多数对抗攻击仅在被攻击 DNN 的信息已知或可通过大量查询估计时才有高成功率。一种有前景的方法是生成具有高迁移性的对抗样本。借此，我们从 ImageNet 的原始样本中生成了 96020 个可迁移对抗样本。以均方根偏差度量，平均差异仅约 3.8。然而，这些对抗样本被各类模型误分类的错误率高达 90%。由于图像是独立于被攻击 DNN 生成的，这本质上是零查询对抗攻击。我们称该数据集为 DAmageNet，它是首个击败 ImageNet 上训练的众多模型的通用对抗数据集。通过发现缺陷，DAmageNet 可作为基准来研究并提升 DNN 的鲁棒性。DAmageNet 可在 http://www.pami.sjtu.edu.cn/Show/56/122 下载。
引用
@article{arxiv.1912.07160,
title = {DAmageNet: A Universal Adversarial Dataset},
author = {Sizhe Chen and Xiaolin Huang and Zhengbao He and Chengjin Sun},
journal= {arXiv preprint arXiv:1912.07160},
year = {2019}
}