深度神经网络的可扩展与模块化鲁棒性分析
机器学习
2021-09-08 v2 编程语言
摘要
随着神经网络的训练趋向更深更广，对神经网络分析器的可扩展性需求迫在眉睫。我们方法的主要技术思想是将网络分割成多个块，通过对每个块进行分析来实现神经网络的模块化分析。具体而言，我们提出了网络块摘要技术，利用块摘要捕获网络块内的行为，并利用该摘要加速分析过程。我们在最先进分析器 DeepPoly 的 CPU 版本基础上实例化了我们的方法，并将我们的系统命名为 Bounded-Block Poly (BBPoly)。我们在各种实验设置下对 BBPoly 进行了广泛评估。实验结果表明，我们的方法产生了与 DeepPoly 相当的精度，但运行速度更快且所需计算资源更少。例如，BBPoly 能够在每张输入图像不到约 1 小时的时间内分析包含多达一百万个神经元的超大型神经网络（如 SkipNet 或 ResNet），而 DeepPoly 分析一张图像甚至需要花费 40 小时。
引用
@article{arxiv.2108.11651,
title = {Scalable and Modular Robustness Analysis of Deep Neural Networks},
author = {Yuyi Zhong and Quang-Trung Ta and Tianzuo Luo and Fanlong Zhang and Siau-Cheng Khoo},
journal= {arXiv preprint arXiv:2108.11651},
year = {2021}
}