具备置信区间的神经网络全局二安全属性验证
计算机科学中的逻辑
2024-09-04 v3
摘要
我们提出了一种用于验证深层神经网络(DNN)中基于置信区间的 2-安全属性(如全局鲁棒性和全局公平性)的首次自动化验证技术。我们的方法结合了自组合以利用现有可达性分析技术，以及一种 novel 对 softmax 函数的抽象，该抽象适用于自动化验证。我们对该静态分析技术进行了特征化并证明了其 soundness。此外，我们在 Marabou 之上实现了该技术，对几个公开可用的 DNN 验证基准进行了性能评估。
关键词
引用
@article{arxiv.2405.14400,
title = {Verifying Global Two-Safety Properties in Neural Networks with Confidence},
author = {Anagha Athavale and Ezio Bartocci and Maria Christakis and Matteo Maffei and Dejan Nickovic and Georg Weissenbacher},
journal= {arXiv preprint arXiv:2405.14400},
year = {2024}
}
备注
Accepted at the 36th International Conference on Computer Aided Verification, 2024