深度神经网络的模型无关可达性分析
机器学习
2023-04-04 v1
摘要
验证在安全关键系统的形式化分析中起着至关重要的作用。当前大多数验证方法在处理深度神经网络（DNNs）时有特定要求。它们要么针对某一特定网络类别，例如前馈神经网络（FNNs），要么针对具有特定激活函数的网络，例如 RdLU。本文中，我们开发了一个称为 DeepAgn 的模型无关验证框架，并表明它可应用于 FNNs、循环神经网络（RNNs）或两者的混合。在 Lipschitz 连续性假设下，DeepAgn 基于一种具有全局收敛保证的新颖优化方案来分析 DNNs 的可达性。它不需要访问网络的内部结构，如层和参数。通过可达性分析，DeepAgn 可处理若干众所周知的鲁棒性问题，包括计算给定输入的最大安全半径，以及生成真值对抗样本。我们还通过实证证明，与其他最先进的验证方法相比，DeepAgn 在处理更广泛的深度神经网络类别（包括具有极深层和数百万神经元的 FNNs 和 RNNs）方面具有优越的能力与效率。
引用
@article{arxiv.2304.00813,
title = {Model-Agnostic Reachability Analysis on Deep Neural Networks},
author = {Chi Zhang and Wenjie Ruan and Fu Wang and Peipei Xu and Geyong Min and Xiaowei Huang},
journal= {arXiv preprint arXiv:2304.00813},
year = {2023}
}
备注
PAKDD 2023