基于快速自适应边界攻击的最小失真对抗样本
机器学习
2020-07-21 v2 密码学与安全
计算机视觉与模式识别
机器学习
摘要
针对基于神经网络的分类器的对抗操纵鲁棒性评估，主要通过经验攻击进行测试，因为精确计算方法即便可用，也无法扩展到大型网络。我们在本文中提出一种针对 -范数（）的新的白盒对抗攻击，旨在寻找改变给定输入类别所需的最小扰动。它具有直观的几何意义，快速产生高质量结果，最小化扰动大小（从而单次运行即可返回各阈值下的鲁棒准确率）。它优于或类似于部分专用于单一 -范数的最先进攻击，并且对梯度掩蔽现象具有鲁棒性。
引用
@article{arxiv.1907.02044,
title = {Minimally distorted Adversarial Examples with a Fast Adaptive Boundary Attack},
author = {Francesco Croce and Matthias Hein},
journal= {arXiv preprint arXiv:1907.02044},
year = {2020}
}