利用增量耗散性增强神经网络对抗对抗攻击的鲁棒性
机器学习
2022-02-15 v2 人工智能
系统与控制
系统与控制
摘要
对抗样本极易降低神经网络的分类性能。已有一些经验性方法被提出以提升对此类样本的鲁棒性，但往往缺乏分析性见解和形式化保证。近来，文献中出现了一些基于系统理论概念的鲁棒性证书。本工作为神经网络提出了一种基于增量耗散性的鲁棒性证书，其形式为每层的一个线性矩阵不等式。我们还为该证书提出了一个等效的谱范数界，可扩展至多层神经网络。我们在 MNIST 上训练的前馈神经网络和使用 CIFAR-10 训练的 AlexNet 上，展示了该方法在对抗对抗攻击时性能的提升。
引用
@article{arxiv.2111.12906,
title = {Robustness against Adversarial Attacks in Neural Networks using Incremental Dissipativity},
author = {Bernardo Aquino and Arash Rahnama and Peter Seiler and Lizhen Lin and Vijay Gupta},
journal= {arXiv preprint arXiv:2111.12906},
year = {2022}
}