面向特征空间的对抗攻击
机器学习
2020-12-17 v2 计算机视觉与模式识别
图像与视频处理
摘要
我们提出一种针对图像分类深度神经网络的新对抗攻击。与大多数直接扰动输入像素的现有攻击不同，我们的攻击侧重于扰动抽象特征，更具体地，表示风格的特征，包括可解释风格（如鲜艳色彩和锐利轮廓）以及不可解释的风格。它通过在优化过程中注入难以察觉的风格变化来诱导模型误分类。我们表明，我们的攻击能生成比最先进的无界攻击更自然观感的对抗样本。实验还支持，现有的像素空间对抗攻击检测与防御技术难以在风格相关特征空间中确保鲁棒性。
引用
@article{arxiv.2004.12385,
title = {Towards Feature Space Adversarial Attack},
author = {Qiuling Xu and Guanhong Tao and Siyuan Cheng and Xiangyu Zhang},
journal= {arXiv preprint arXiv:2004.12385},
year = {2020}
}
备注
AAAI 2021