探索偏僻小巷：分析替代性神经网络架构对对抗攻击的鲁棒性
机器学习
2020-03-12 v3 机器学习
摘要
我们研究人工神经网络（ANN）的替代变体在多大程度上易受对抗攻击。我们在三个不同数据集上，于原始图像空间中分析了常规随机 ANN 与脉冲神经网络（SNN）的对抗鲁棒性。我们的实验表明，在白盒设定下面对简单的迭代基于梯度的攻击时，随机 ANN 变体几乎与常规 ANN 一样易受攻击。然而我们观察到，在黑盒设定下，面对边界攻击、可迁移性与替代攻击时，随机 ANN 比常规 ANN 更鲁棒。因此，我们提出了针对黑盒设定下随机 ANN 的改进攻击与防御机制。在执行基于替代的黑盒攻击时，可采用随机模型作为替代模型，以观测对随机与确定性目标均更高的攻击成功率。借助我们提出的方差模仿（VM）替代训练方法，针对随机目标的这一成功率可进一步提升。最后，从防御者视角出发，我们考察了采用随机切换模型混合作为可行加固机制的可行性。我们观察到此类方案确实提供了部分加固。
引用
@article{arxiv.1912.03609,
title = {Exploring the Back Alleys: Analysing The Robustness of Alternative Neural Network Architectures against Adversarial Attacks},
author = {Yi Xiang Marcus Tan and Yuval Elovici and Alexander Binder},
journal= {arXiv preprint arXiv:1912.03609},
year = {2020}
}