深度神经网络鲁棒性的形式化
机器学习
2019-03-26 v1
摘要
深度神经网络已被证明对小的输入扰动缺乏鲁棒性。生成暴露神经网络缺乏鲁棒性的扰动的过程被称为对抗输入生成。该过程取决于对手的目标和能力。在本文中，我们从形式化方法的视角提出了对抗输入生成过程的统一形式化。我们提供了一个足够通用的鲁棒性定义，以捕捉不同的表述。我们通过对各种对抗攻击技术进行建模和比较，展示了我们形式化的表达能力。
引用
@article{arxiv.1903.10033,
title = {A Formalization of Robustness for Deep Neural Networks},
author = {Tommaso Dreossi and Shromona Ghosh and Alberto Sangiovanni-Vincentelli and Sanjit A. Seshia},
journal= {arXiv preprint arXiv:1903.10033},
year = {2019}
}