行走于边界：快速低失真对抗样本
计算机视觉与模式识别
2021-01-13 v2 密码学与安全
机器学习
摘要
深度神经网络的对抗样本正受到越来越多的关注，因为它们有助于理解和降低其对输入的敏感性。鉴于深度神经网络在日常生活中应用日益广泛，这是很自然的。当白盒攻击几乎总是成功时，在其评估中通常只有扰动的失真度才是关键。本文中，我们认为速度同样重要，特别是考虑到对抗训练需要快速攻击。给定更长时间，迭代方法总能找到更好的解。我们较深入地研究了这一速度-失真权衡，并提出了一种称为边界投影（BP）的新攻击方法，其在大幅改进现有方法。我们的核心思想是：分类边界是图像空间中的一个流形，因此我们快速到达边界，然后在该流形上优化失真。
引用
@article{arxiv.1912.02153,
title = {Walking on the Edge: Fast, Low-Distortion Adversarial Examples},
author = {Hanwei Zhang and Yannis Avrithis and Teddy Furon and Laurent Amsaleg},
journal= {arXiv preprint arXiv:1912.02153},
year = {2021}
}
备注
13 pages, 9 figures