大多数ReLU网络遭受$\ell^2$对抗扰动
机器学习
2020-10-29 v1 密码学与安全
机器学习
摘要
我们考虑具有随机权重的ReLU网络，其中维度在每一层递减。我们证明对于大多数此类网络，大多数样本在欧氏距离处存在对抗扰动，其中为输入维度。此外，该扰动可通过梯度流以及步长足够小的梯度下降找到。这一结果可视为对对抗样本大量存在以及它们通过梯度下降被找到这一事实的解释。
引用
@article{arxiv.2010.14927,
title = {Most ReLU Networks Suffer from $\ell^2$ Adversarial Perturbations},
author = {Amit Daniely and Hadas Schacham},
journal= {arXiv preprint arXiv:2010.14927},
year = {2020}
}