基于对称 α-稳定分布的黑盒决策对抗攻击
计算机视觉与模式识别
2019-04-12 v1
摘要
发展对抗攻击与防御技术是为建立可靠的机器学习及其应用的重要研究领域。许多现有方法采用高斯随机变量探索数据空间，以寻找最具对抗性（用于攻击）或最弱对抗性（用于防御）的点。然而，当探索需遵循大多数真实世界数据分布所呈现的复杂结构时，高斯分布未必是最优选择。本文研究随机变量的统计特性如何影响此类随机游走探索。具体而言，我们推广了当前最优的黑盒决策攻击策略 Boundary Attack，并提出 Lévy-Attack，其随机游走由对称 α-稳定随机变量驱动。我们在 MNIST 与 CIFAR10 数据集上的实验表明，Lévy-Attack 更高效地探索图像数据空间，并显著提升性能。我们的结果也为白盒攻击场景中近期发现的“衡量对抗模式幅度的范数选择至关重要”这一事实提供了见解。
引用
@article{arxiv.1904.05586,
title = {Black-Box Decision based Adversarial Attack with Symmetric $\alpha$-stable Distribution},
author = {Vignesh Srinivasan and Ercan E. Kuruoglu and Klaus-Robert Müller and Wojciech Samek and Shinichi Nakajima},
journal= {arXiv preprint arXiv:1904.05586},
year = {2019}
}