通过演化局部可解释模型无关解释来解释用于图像分类的深度卷积神经网络
计算机视觉与模式识别
2025-03-27 v3 机器学习
摘要
深度卷积神经网络已证明其有效性，并被公认为图像分类最主要的方法。然而，深度卷积神经网络的一个严重缺陷是可解释性差。不幸的是，在许多现实应用中，用户在决定是否应信任深度卷积神经网络的预测时，需要理解其预测背后的依据。为解决这一问题，首次提出了一种基于遗传算法的新方法，用于自动演化局部解释，以帮助用户评估预测的合理性。此外，所提方法是模型无关的，即可用于解释任何深度卷积神经网络模型。实验中，以ResNet作为待解释的示例模型，并选择ImageNet数据集作为基准数据集。进一步解释了DenseNet和MobileNet，以证明所提方法的模型无关特性。展示了从ImageNet中随机选取的四张图像上演化出的局部解释，结果表明演化出的局部解释易于被人类识别。此外，演化出的解释通过成功捕捉样本图像中有意义的可解释特征，能够很好地解释深度卷积神经网络对所有四张图像的预测。基于30次实验运行的进一步分析表明，演化出的局部解释还可以提高深度卷积神经网络模型做出预测的概率/置信度。所提方法可在一分钟内获得局部解释，比LIME（最先进方法）快十倍以上。
引用
@article{arxiv.2211.15143,
title = {Explaining Deep Convolutional Neural Networks for Image Classification by Evolving Local Interpretable Model-agnostic Explanations},
author = {Bin Wang and Wenbin Pei and Bing Xue and Mengjie Zhang},
journal= {arXiv preprint arXiv:2211.15143},
year = {2025}
}