Visual-TCAV: 面向图像分类后置可解释性的概念基准归因与显著性图
计算机视觉与模式识别
2025-06-04 v2 人工智能
机器学习
摘要
卷积神经网络 (CNN) 近年来在性能方面取得了显著提升。然而，由于其规模和复杂性，使其功能为黑箱，从而引发透明度问题。当前领先的显著性方法生成的局部解释仅标出输入图像中识别某一类别的区域，无法解释感兴趣概念对预测的贡献，这对于偏差缓解至关重要。另一方面，概念基方法如 TCAV (概念激活向量测试) 能提供网络对概念敏感性的洞察，但无法计算特定预测中的概念归因，也无法显示其在输入图像中的位置。本文引入一种新型后置可解释性框架 Visual-TCAV，旨在通过概念激活向量 (CAV) 生成显著性图，展示网络在输入图像中识别概念的位置。此外，它能通过对已集成梯度的推广估计这些概念对任何类别输出的归因。该框架在流行的 CNN 架构上进行评估，实验结果包括已知解释ground truth的实验以及与 TCAV 的比较。我们的代码已公开于 https://github.com/DataSciencePolimi/Visual-TCAV。
引用
@article{arxiv.2411.05698,
title = {Visual-TCAV: Concept-based Attribution and Saliency Maps for Post-hoc Explainability in Image Classification},
author = {Antonio De Santis and Riccardo Campi and Matteo Bianchi and Marco Brambilla},
journal= {arXiv preprint arXiv:2411.05698},
year = {2025}
}
备注
Preprint currently under review