《为什么不是其他类别》：面向类别对比反向传播解释的可重复性评估
计算机视觉与模式识别
2025-01-22 v1 机器学习
摘要
《为什么不是其他类别》（Why Not Other Classes?）是一种用于解释神经网络图像分类器中为何某一类别在其他类别之上被选择的方法。该方法通过在softmax层之后而非之前使用反向传播-based解释方法。我们的工作包括复现原论文中的方法，并通过在XGradCAM、FullGrad和Vision Transformer上进行评估来检验其泛化能力。复现结果与原论文相似，唯一区别在于热力图可视化无法复现得如此相似。泛化能力总体良好，针对Vision Transformer和替代反向传播方法的实现均可工作。我们还指出原论文存在方法细节不足及错误公式，导致可重复性困难。为弥补此缺陷，我们提供了一个包含本项目全部代码的开源仓库。
引用
@article{arxiv.2501.11096,
title = {Reproducibility review of "Why Not Other Classes": Towards Class-Contrastive Back-Propagation Explanations},
author = {Arvid Eriksson and Anton Israelsson and Mattias Kallhauge},
journal= {arXiv preprint arXiv:2501.11096},
year = {2025}
}