面向大规模神经网络几何鲁棒性验证的研究
机器学习
2023-04-03 v2 人工智能
计算机视觉与模式识别
摘要
深度神经网络（DNNs）已知易受对抗性几何变换攻击。本文旨在以可证明的保证验证大规模 DNN 对多种几何变换组合之下的鲁棒性。给定一组变换（如旋转、缩放等），我们开发了 GeoRobust——一个基于新颖全局优化策略的黑盒鲁棒性分析器，用于定位影响甚至改变网络输出的最坏情况变换组合。GeoRobust 可基于近期 Lipschitz 理论的进展，对找到最坏情况组合提供可证明保证。由于其黑盒特性，GeoRobust 可部署于大规模 DNN，而无关其架构、激活函数与神经元数量。在实践中，GeoRobust 可在 ImageNet 上对 ResNet50 模型以平均几秒的耗时高精度定位最坏情况几何变换。我们考察了 18 个 ImageNet 分类器（包括 ResNet 系列与视觉 Transformer），发现网络几何鲁棒性与参数量呈正相关。我们还观察到，在提升几何鲁棒性方面，增加 DNN 深度比增加宽度更有益。我们的工具 GeoRobust 可在 https://github.com/TrustAI/GeoRobust 获取。
引用
@article{arxiv.2301.12456,
title = {Towards Verifying the Geometric Robustness of Large-scale Neural Networks},
author = {Fu Wang and Peipei Xu and Wenjie Ruan and Xiaowei Huang},
journal= {arXiv preprint arXiv:2301.12456},
year = {2023}
}