通过线性区域最大化实现 ReLU 网络的可证明鲁棒性
机器学习
2019-03-11 v2 机器学习
摘要
已有研究表明神经网络分类器并不鲁棒。这引发了人们对其在安全关键系统中使用的担忧。我们在本文中提出一种针对 ReLU 网络的正则化方案，通过最大化分类器的线性区域以及与决策边界的距离，可证明地提升分类器的鲁棒性。我们的技术甚至能为大型网络中一部分测试点找到最小对抗扰动。在实验中，我们表明我们的方法在下界和上界鲁棒性方面均优于对抗训练，并且在测试误差和鲁棒性方面与最先进水平相当或更好。
引用
@article{arxiv.1810.07481,
title = {Provable Robustness of ReLU networks via Maximization of Linear Regions},
author = {Francesco Croce and Maksym Andriushchenko and Matthias Hein},
journal= {arXiv preprint arXiv:1810.07481},
year = {2019}
}
备注
In AISTATS 2019. Conference version with the following modifications: improved readability, comparison to Xiao et al (2018) added, section on visualizations extended