OccRob：基于高效 SMT 的深度神经网络遮挡鲁棒性验证
机器学习
2023-01-30 v1
摘要
遮挡是对深度神经网络（DNNs）一种普遍且易于实现的语义扰动。它可以通过遮挡某些图像块来欺骗 DNN 误分类输入图像，可能导致严重错误。因此，部署于安全关键系统中的 DNN 应在部署前验证其对遮挡的鲁棒性。然而，现有大多数 DNN 鲁棒性验证方法聚焦于非语义扰动，并不适用于遮挡情形。本文中，我们提出首个高效的、基于 SMT 的形式化验证 DNN 遮挡鲁棒性的方法。我们形式化了遮挡鲁棒性验证问题并证明其是 NP-complete。随后，我们设计了一种将遮挡编码为神经网络一部分的新方法，并引入两种加速技术，使得扩展后的神经网络可使用现成的基于 SMT 的神经网络验证工具高效验证。我们在名为 OccRob 的原型中实现了该方法，并在具有多种遮挡变体的基准数据集上广泛评估了其性能。实验结果证明了我们的方法在验证 DNN 对各种遮挡鲁棒性方面的有效性与高效性，以及在这些 DNN 不鲁棒时生成反例的能力。
引用
@article{arxiv.2301.11912,
title = {OccRob: Efficient SMT-Based Occlusion Robustness Verification of Deep Neural Networks},
author = {Xingwu Guo and Ziwei Zhou and Yueling Zhang and Guy Katz and Min Zhang},
journal= {arXiv preprint arXiv:2301.11912},
year = {2023}
}