随机稀疏对抗攻击
机器学习
2022-02-22 v4 密码学与安全
计算机视觉与模式识别
摘要
本文提出随机稀疏对抗攻击（SSAA, stochastic sparse adversarial attacks），作为神经网络分类器（NNC）简单、快速且纯基于噪声的有目标与无目标攻击。SSAA 提供了稀疏（或 ）攻击的新实例，此前此类方法寥寥无几。这些攻击通过利用广泛用于马尔可夫过程的小时间展开思想而设计。在小型与大型数据集（CIFAR-10 与 ImageNet）上的实验展示了 SSAA 相较最先进方法的若干优势。例如，在无目标情形下，我们称为投票折叠高斯攻击（VFGA, Voting Folded Gaussian Attack）的方法可高效扩展到 ImageNet，并取得显著低于 SparseFool 的 分数（可达 ），且速度更快。此外，当两种攻击在大量样本上均完全成功时，VFGA 在 ImageNet 上取得的 分数优于 Sparse-RS。
引用
@article{arxiv.2011.12423,
title = {Stochastic sparse adversarial attacks},
author = {Manon Césaire and Lucas Schott and Hatem Hajri and Sylvain Lamprier and Patrick Gallinari},
journal= {arXiv preprint arXiv:2011.12423},
year = {2022}
}
备注
Final version published at the ICTAI 2021 conference with a best student paper award. Codes are available through the link: https://github.com/hhajri/stochastic-sparse-adv-attacks