保持架构的深度神经网络可证明修复
机器学习
2023-08-17 v2
摘要
深度神经网络（DNN）正成为日益重要的软件组件，并被认为是图像识别等若干问题的前沿（state-of-the-art）解决方案。然而，DNN 远非无懈可击，其错误行为可能在现实世界中造成灾难性后果。本文研究 DNN 的保持架构的 V-多面体（V-polytope）可证明修复问题。V-多面体使用其顶点表示来定义一个凸有界多面体。V-多面体可证明修复保证修复后的 DNN 在给定 V-多面体中无限个点集上满足给定规范。保持架构的修复仅修改 DNN 的参数，而不修改其架构。该修复具有修改 DNN 多层参数的灵活性，并在多项式时间内运行。它支持具有若干线性片段的激活函数的 DNN，以及全连接、卷积、池化和残差层。据我们所知，这是首个具备上述所有特性的可证明修复方法。我们在名为 APRNN 的工具中实现了该方法。使用 MNIST、ImageNet 和 ACAS Xu DNN，我们表明相较于 PRDNN 和 REASSURE 这些先前的非保持架构的可证明修复方法，它在效率、可扩展性和泛化性方面更优。
引用
@article{arxiv.2304.03496,
title = {Architecture-Preserving Provable Repair of Deep Neural Networks},
author = {Zhe Tao and Stephanie Nawas and Jacqueline Mitchell and Aditya V. Thakur},
journal= {arXiv preprint arXiv:2304.03496},
year = {2023}
}
备注
Accepted paper at PLDI 2023. Tool is available at https://github.com/95616ARG/APRNN/