基于多向量 Tucker 敏感图的 CNN 可解释性方法：面向自监督模型
计算机视觉与模式识别
2024-10-31 v1 人工智能
机器学习
摘要
解释卷积神经网络（CNN）的决策对于理解其行为至关重要，但可解释性仍是一个显著挑战，尤其是针对自监督模型。大多数现有方法生成敏感图依赖于ground truth标签，限制了其在监督任务中的应用。EigenCAM是唯一一个基于无标签方法的替代方案，利用奇异值分解生成适用于各种CNN模型的敏感图，但未充分利用特征图的张量结构。在本工作中，我们引入Tucker敏感图（TSM）方法，通过对Tucker张量分解更好地捕捉特征图的内在结构，生成更准确的奇异向量和奇异值。这些用于生成高保真度敏感图，有效标记输入中感兴趣的对象。我们进一步将EigenCAM和TSM扩展为多向量变体——Multivec-EigenCAM和多向量Tucker敏感图（MTSM），利用所有奇异向量和奇异值，进一步提升敏感图质量。在监督分类模型上的定量评估表明，TSM、Multivec-EigenCAM和MTSM在与标签相关方法的竞争性能方面表现优异。此外，TSM在监督和自监督模型中均将可解释性提升约50%。Multivec-EigenCAM和MTSM进一步在自监督模型上实现了最先进的可解释性性能，其中MTSM取得最佳结果。
引用
@article{arxiv.2410.23072,
title = {CNN Explainability with Multivector Tucker Saliency Maps for Self-Supervised Models},
author = {Aymene Mohammed Bouayed and Samuel Deslauriers-Gauthier and Adrian Iaccovelli and David Naccache},
journal= {arXiv preprint arXiv:2410.23072},
year = {2024}
}
备注
29 pages, 20 figures