ADVISE：用于卷积神经网络的适应性特征相关性与视觉解释方法
计算机视觉与模式识别
2024-02-23 v1 机器学习
摘要
为使卷积神经网络（CNNs）具备可解释性，必须解释不透明模型如何做出特定决策、理解错误成因、改进架构设计并识别分类器中的不公平偏见。本文提出 ADVISE，一种量化并利用特征图各单元相关性以提供更好视觉解释的新可解释性方法。为此，我们提出使用自适应带宽核密度估计，针对预测类别为特征图的每个单元分配相关性分数。我们还提出一种评估协议，以定量评估 CNN 模型的视觉可解释性。我们使用在 ImageNet 上预训练的 AlexNet、VGG16、ResNet50 和 Xception 在图像分类任务中广泛评估了我们的思路。我们将 ADVISE 与最先进的视觉可解释方法比较，表明所提方法在量化特征相关性与视觉可解释性方面优于竞争方法，同时保持有竞争力的时复杂度。我们的实验进一步表明，ADVISE 满足敏感性与实现无关公理，并通过了合理性检验。为可复现，实现代码发布于 https://github.com/dehshibi/ADVISE。
引用
@article{arxiv.2203.01289,
title = {ADVISE: ADaptive Feature Relevance and VISual Explanations for Convolutional Neural Networks},
author = {Mohammad Mahdi Dehshibi and Mona Ashtari-Majlan and Gereziher Adhane and David Masip},
journal= {arXiv preprint arXiv:2203.01289},
year = {2024}
}