基于 Lyapunov 理论的深度神经网络抗对抗攻击鲁棒设计
机器学习
2019-11-13 v1 系统与控制
系统与控制
机器学习
摘要
深度神经网络(DNNs)易受施加于输入的细微对抗扰动的影响。这些对抗扰动虽难以察觉，却容易误导 DNN。本工作中，我们采用控制理论方法研究 DNN 的鲁棒性问题。我们将 DNN 的每一层视为非线性动力学系统，并利用 Lyapunov 理论在局部证明稳定性与鲁棒性。进而，我们证明整个 DNN 在全局上的稳定性与鲁棒性。我们对输出层或任意隐藏层对添加在输入或隐藏层输入的对抗扰动的响应，给出了经验上紧的界。近期工作提出将谱范数正则化作为提升针对 l2 对抗攻击鲁棒性的方案。我们的结果就谱范数正则化如何缓解对抗效应给出了新的见解。最后，我们在多种数据集和网络架构上，针对若干知名对抗攻击评估了本方法的效力。
引用
@article{arxiv.1911.04636,
title = {Robust Design of Deep Neural Networks against Adversarial Attacks based on Lyapunov Theory},
author = {Arash Rahnama and Andre T. Nguyen and Edward Raff},
journal= {arXiv preprint arXiv:1911.04636},
year = {2019}
}