混沌理论与对抗鲁棒性

神经网络易受对抗攻击，在关键或对抗性应用中部署之前应面临严格审查。本文利用混沌理论的思想来解释、分析并量化神经网络易受对抗攻击或对抗攻击具有鲁棒性的程度。为此，我们提出一个新度量“易感性比”，由$\hat \Psi(h, \theta)$给出，它刻画了给定输入的扰动会使模型输出改变多少。我们的结果表明，对攻击的易感性随模型深度显著增长，这对生产环境中神经网络的设计具有安全意义。我们提供了$\hat \Psi$与分类模型攻击后精度之间关系的实验证据，并讨论了其在缺乏硬决策边界任务中的应用。我们还展示了如何快速简便地近似极大规模模型的认证鲁棒性半径，而此前直接计算在计算上不可行。