神经网络的一阶对抗脆弱性与输入维度
机器学习
2019-06-18 v4 计算机视觉与模式识别
机器学习
摘要
过去几年中，神经网络被证明对对抗图像脆弱：有针对性的但难以察觉的图像扰动会导致截然不同的预测。我们表明，当将训练目标视为输入的函数时，对抗脆弱性随其梯度增大而增大。令人惊讶的是，脆弱性不依赖于网络拓扑：对于许多标准网络架构，我们证明在初始化时，这些梯度的 ℓ1 范数随输入维度的平方根增长，使网络随图像尺寸增大而日益脆弱。我们通过经验表明，这种维度依赖性在常规或鲁棒训练后均持续存在，但随更高正则化而减弱。
引用
@article{arxiv.1802.01421,
title = {First-order Adversarial Vulnerability of Neural Networks and Input Dimension},
author = {Carl-Johann Simon-Gabriel and Yann Ollivier and Léon Bottou and Bernhard Schölkopf and David Lopez-Paz},
journal= {arXiv preprint arXiv:1802.01421},
year = {2019}
}
备注
Paper previously called: "Adversarial Vulnerability of Neural Networks Increases with Input Dimension". 9 pages main text and references, 11 pages appendix, 14 figures