揭示深度神经网络中此前不可检测的缺陷
机器学习
2021-06-02 v1 计算机视觉与模式识别
软件工程
摘要
现有的 DNN 测试方法通过约束原始特征（例如图像像素值）与已知期望 DNN 输出的数据集样本之间的距离较小来解决预言机问题。但这限制了这些方法能够检测的缺陷种类。在本文中，我们引入一种新颖的 DNN 测试方法，能够发现其他方法无法找到的 DNN 缺陷。其关键在于，通过利用生成式机器学习，我们可以生成在高层次特征上变化的新鲜测试输入（对于图像，这些特征包括物体形状、位置、纹理和颜色）。我们证明了我们的方法能够检测故意注入的缺陷以及最先进 DNN 中的新缺陷，并且在两种情况下，现有方法均无法发现这些缺陷。
引用
@article{arxiv.2106.00576,
title = {Exposing Previously Undetectable Faults in Deep Neural Networks},
author = {Isaac Dunn and Hadrien Pouget and Daniel Kroening and Tom Melham},
journal= {arXiv preprint arXiv:2106.00576},
year = {2021}
}
备注
Accepted to the ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA 2021)