P-TAME：基于训练扰动的图像分类器解释方法
计算机视觉与模式识别
2025-06-04 v2 人工智能
摘要
深度神经网络（DNN）在需要附带解释的关键领域的应用受到了其内在的黑盒性质的限制。本文引入 P-TAME（Perturbation-based Trainable Attention Mechanism for Explanations），一种用于解释 DNN 基于图像的分类器的模型无关方法。P-TAME 采用辅助图像分类器提取输入图像的特征，无需针对所要解释的基础分类器的内部结构进行定制。不同于传统扰动方法需要高计算资源，P-TAME 通过在推理阶段仅进行一次前向传播即可生成高分辨率解释。我们将 P-TAME 应用于解释 VGG-16、ResNet-50 和 ViT-B-16 三个不同且广泛使用的图像分类器。定量和定性结果表明，我们的方法与或优于包括模型特定方法在内的以前解释方法。代码和训练好的模型将在接受后公开。
引用
@article{arxiv.2501.17813,
title = {P-TAME: Explain Any Image Classifier with Trained Perturbations},
author = {Mariano V. Ntrougkas and Vasileios Mezaris and Ioannis Patras},
journal= {arXiv preprint arXiv:2501.17813},
year = {2025}
}
备注
Published in IEEE Open Journal of Signal Processing (Volume 6)