特征激活图：图像分类深度学习模型的视觉解释
计算机视觉与模式识别
2023-07-12 v1 人工智能
机器学习
性能
摘要
卷积神经网络（CNN）做出的决策可通过可视化图像上的判别区域来理解和解释。为此，基于类激活图（CAM）的方法被提出作为强大的解释工具，使深度学习模型的预测更具可解释性、透明性和可信性。然而，所有基于 CAM 的方法（例如 CAM、Grad-CAM 和 Relevance-CAM）仅能用于解释以全连接（FC）层作为分类器的 CNN 模型。值得注意的是，许多深度学习模型在无 FC 层的情况下对图像进行分类，例如小样本学习图像分类、对比学习图像分类和图像检索任务。在本工作中，提出了一种称为特征激活图（FAM）的事后解释工具，其可解释无 FC 层作为分类器的深度学习模型。在所提出的 FAM 算法中，通道级贡献权重由两幅图像嵌入之间的相似度得分导出。激活图与相应的归一化贡献权重线性组合，形成用于可视化的解释图。在十个用于小样本图像分类、对比学习图像分类和图像检索任务的深度学习模型上进行的定量与定性实验证明了所提 FAM 算法的有效性。
引用
@article{arxiv.2307.05017,
title = {Feature Activation Map: Visual Explanation of Deep Learning Models for Image Classification},
author = {Yi Liao and Yongsheng Gao and Weichuan Zhang},
journal= {arXiv preprint arXiv:2307.05017},
year = {2023}
}
备注
14 pages