针对注意力的通用对抗攻击及由此得到的数据集 DAmageNet
机器学习
2020-10-22 v3 机器学习
摘要
深度神经网络（DNNs）的对抗攻击已被发现数年。然而，现有的对抗攻击仅在受害 DNN 的信息被充分了解或可通过结构相似性及大量查询估计时，才具有较高成功率。本文中，我们提出攻击注意力（AoA），即 DNNs 普遍共享的一种语义属性。当传统的交叉熵损失被注意力损失替代时，AoA 的迁移性显著提升。由于 AoA 仅改变损失函数，它可轻易与其他迁移性增强技术结合，从而取得 SOTA 性能。我们将 AoA 应用于从 ImageNet 验证集生成 50000 个对抗样本以击败众多神经网络，并将该数据集命名为 DAmageNet。13 个训练良好的 DNN 在 DAmageNet 上测试，其错误率均超过 85%。即便采用防御或对抗训练，多数模型在 DAmageNet 上仍保持超过 70% 的错误率。DAmageNet 是首个通用对抗数据集。它可免费下载，并用作鲁棒性测试与对抗训练的基准。
引用
@article{arxiv.2001.06325,
title = {Universal Adversarial Attack on Attention and the Resulting Dataset DAmageNet},
author = {Sizhe Chen and Zhengbao He and Chengjin Sun and Jie Yang and Xiaolin Huang},
journal= {arXiv preprint arXiv:2001.06325},
year = {2020}
}
备注
accepted by IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI)