#DNN-Verification 问题：深度神经网络不安全输入的计数

Luca Marzari; Davide Corsi; Ferdinando Cicalese; Alessandro Farinelli

#DNN-Verification 问题：深度神经网络不安全输入的计数

人工智能 2023-06-21 v4 机器学习

作者: Luca Marzari , Davide Corsi , Ferdinando Cicalese , Alessandro Farinelli

摘要

深度神经网络正日益被用于自动驾驶等需要高度安全性的关键任务中。尽管最先进的验证器可用于检查某个 DNN 相对于给定属性是否不安全（即是否存在至少一个不安全输入配置），但其是/否输出对于屏蔽、模型选择或训练改进等其他用途而言信息量不足。本文引入 #DNN-Verification 问题，其涉及计数导致违反特定安全属性的 DNN 输入配置数量。我们分析了该问题的复杂度，并提出了一种返回精确违规计数的新方法。由于该问题具有 #P 完备性，我们还提出了一种随机化近似方法，在显著降低计算需求的同时提供正确计数的可证明概率界。我们在一组安全关键基准上给出实验结果，证明了近似方法的有效性并评估了该界的紧度。

关键词

深度神经网络 #DNN-Verification 安全性验证计数问题 #P 完备性近似方法

引用

@article{arxiv.2301.07068,
  title  = {The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural Networks},
  author = {Luca Marzari and Davide Corsi and Ferdinando Cicalese and Alessandro Farinelli},
  journal= {arXiv preprint arXiv:2301.07068},
  year   = {2023}
}

备注

Accepted in the International Joint Conference on Artificial Intelligence (IJCAI), 2023. [Marzari and Corsi contributed equally]

#DNN-Verification 问题：深度神经网络不安全输入的计数

摘要

关键词

引用

备注

相关论文