所见即所分类：黑盒归因
计算机视觉与模式识别
2024-08-01 v2 人工智能
机器学习
摘要
解释深度图像分类器的重要一步在于识别对模型输出中各个类别分数有贡献的图像区域。然而，由于此类网络的黑盒性质，准确完成这一任务十分困难。大多数现有方法要么利用激活值和梯度，要么通过反复扰动输入来寻找此类归因。我们转而通过训练第二个深度网络（解释器，Explainer）来预测预训练黑盒分类器（被解释对象，Explanandum）的归因，以应对这一挑战。这些归因以掩码形式给出，仅显示图像中与分类器相关的部分，其余部分被遮掩。与其他方法生成的显著图相比，我们的方法产生更清晰且边界更精确的掩码。此外，与大多数现有方法不同，我们的方法能够在单次前向传播中直接生成非常清晰的类别特定掩码。这使得所提方法在推理时非常高效。我们表明，在PASCAL VOC-2007和Microsoft COCO-2014数据集上，我们的归因在视觉和定量上均优于已有方法。
引用
@article{arxiv.2205.11266,
title = {What You See is What You Classify: Black Box Attributions},
author = {Steven Stalder and Nathanaël Perraudin and Radhakrishna Achanta and Fernando Perez-Cruz and Michele Volpi},
journal= {arXiv preprint arXiv:2205.11266},
year = {2024}
}