重新审视类激活映射可解释性的评估：一种新度量与实验分析
计算机视觉与模式识别
2021-04-22 v1
摘要
随着对深度学习解决方案需求的增长，对可解释性的需求变得更为根本。在此背景下，人们特别关注可视化技术，其试图针对网络输出为各输入像素赋予恰当的相关性。本文聚焦于类激活映射（Class Activation Mapping, CAM）方法，其通过对激活图取加权平均提供有效的可视化。为增强此类方法的评估与可复现性，我们提出一组新颖的度量来量化解释图，其展现出更好的有效性并简化了方法间的比较。为评估该提议的恰当性，我们在整个 ImageNet 验证集上比较了不同的基于 CAM 的可视化方法，以促进恰当的比较与可复现性。
引用
@article{arxiv.2104.10252,
title = {Revisiting The Evaluation of Class Activation Mapping for Explainability: A Novel Metric and Experimental Analysis},
author = {Samuele Poppi and Marcella Cornia and Lorenzo Baraldi and Rita Cucchiara},
journal= {arXiv preprint arXiv:2104.10252},
year = {2021}
}
备注
CVPR 2021 Workshop on Responsible Computer Vision