ASP：基于对抗显著性预测的快速对抗攻击样本生成框架
计算机视觉与模式识别
2018-06-14 v3 密码学与安全
机器学习
摘要
凭借优异的准确率和可行性，神经网络已被广泛应用于新型智能应用与系统中。然而，随着对抗攻击的出现，基于神经网络的系统性能变得极为脆弱：图像分类结果可被对抗样本任意误导，而对抗样本是带有人类难以察觉的像素级扰动的精心构造图像。由于这引发了显著的系统安全问题，我们在本工作中对对抗攻击进行了一系列研究：我们首先基于对抗显著性分析来识别图像像素对对抗攻击的脆弱性。通过比较分析得到的显著性图与对抗扰动分布，我们提出了一种新的评估方案，以综合评估对抗攻击的精度与效率。随后，借助一种新颖的对抗显著性预测方法，我们提出了一种快速的对抗样本生成框架，即“ASP”，其显著提升了攻击效率并大幅降低了计算成本。与先前方法相比，实验表明 ASP 在 MNIST 和 Cifar10 上对抗样本生成速度最高提升 12 倍，扰动率低至 2 倍以下，且攻击成功率高达 87%。ASP 也可很好地用于支持数据饥渴的神经网络对抗训练。通过将攻击成功率降低多达 90%，ASP 能够快速有效地增强基于神经网络的系统对对抗攻击的防御能力。
引用
@article{arxiv.1802.05763,
title = {ASP:A Fast Adversarial Attack Example Generation Framework based on Adversarial Saliency Prediction},
author = {Fuxun Yu and Qide Dong and Xiang Chen},
journal= {arXiv preprint arXiv:1802.05763},
year = {2018}
}