利用目标相关蜕变关系测试图像分析深度学习模型
机器学习
2021-05-25 v2 计算机视觉与模式识别
图像与视频处理
摘要
深度学习模型被广泛用于图像分析。尽管它们在准确率方面表现优异，但人们担忧这些模型是否利用图像中目标物体未编码的无关特征做出了不恰当的推断。为应对该担忧，我们提出一种蜕变测试方法，用于评估给定推断是否基于无关特征做出。具体而言，我们提出两种新颖的蜕变关系来检测此类不恰当推断。我们将该方法应用于 10 个图像分类模型和 10 个目标检测模型，使用三个大型数据集，即 ImageNet、COCO 和 Pascal VOC。图像分类模型做出的 top-5 正确预测中，超过 5.3% 存在使用无关特征的不恰当推断。目标检测模型的相应比例超过 8.5%。基于这些发现，我们进一步设计了一种可有效攻击现有模型的新图像生成策略。与基线方法相比，我们的策略可使攻击成功率翻倍。
引用
@article{arxiv.1909.03824,
title = {Testing Deep Learning Models for Image Analysis Using Object-Relevant Metamorphic Relations},
author = {Yongqiang Tian and Shiqing Ma and Ming Wen and Yepang Liu and Shing-Chi Cheung and Xiangyu Zhang},
journal= {arXiv preprint arXiv:1909.03824},
year = {2021}
}
备注
Please note that a later version of this paper is accepted by Empirical Software Engineering in 2021. The title of the accepted paper is: "To What Extent Do DNN-based Image Classification Models Make Unreliable Inferences?". Please contact the first author if you are interested in the accepted version