从对抗鲁棒性视角看神经网络的拓扑结构
机器学习
2022-11-08 v1 密码学与安全
机器学习
摘要
在本文中，我们研究了神经网络（NNs）拓扑结构对对抗鲁棒性的影响。具体而言，我们研究了当输入遍历神经网络所有层时所产生的图，并表明此类图在干净输入与对抗输入下是不同的。我们发现，来自干净输入的图更集中于高速公路边（highway edges），而来自对抗样本的图则更为分散，利用了未充分优化的边。通过在多种数据集和架构上的实验，我们表明这些未充分优化的边是对抗脆弱性的一处来源，并且它们可用于检测对抗输入。
引用
@article{arxiv.2211.02675,
title = {An Adversarial Robustness Perspective on the Topology of Neural Networks},
author = {Morgane Goibert and Thomas Ricatte and Elvis Dohmatob},
journal= {arXiv preprint arXiv:2211.02675},
year = {2022}
}