基于顶点的可达性分析用于验证 ReLU 深度神经网络
机器学习
2023-01-31 v1
摘要
神经网络在图像识别、语音识别及其他应用等不同任务上取得了高性能。尽管取得成功，这些模型对于微小扰动仍显脆弱，而后者可被用来构造所谓的对抗样本。人们提出了多种方法来规避其脆弱性，包括形式化验证系统，其采用多种技术（含可达性、优化与搜索过程）来验证模型满足某些性质。本文提出三种用于验证带 ReLU 激活的深度神经网络的新颖可达性算法。第一与第三种算法计算可达集的过近似，而第二种计算精确可达集。与先前方法不同，我们的算法以 V-多面体（V-polytope）为输入。我们在 ACAS Xu 问题上的实验表明，本文提出的精确多面体网络映射（EPNM）可达性算法超越了文献中的 SOTA 结果，尤其相对于其他可达性方法。
引用
@article{arxiv.2301.12001,
title = {Vertex-based reachability analysis for verifying ReLU deep neural networks},
author = {João Zago and Eduardo Camponogara and Eric Antonelo},
journal= {arXiv preprint arXiv:2301.12001},
year = {2023}
}