通过基于归因的输入采样与分块特征聚合解释卷积神经网络
计算机视觉与模式识别
2020-12-29 v2 图像与视频处理
摘要
作为机器学习中的一个新兴领域，可解释人工智能（XAI）在解释卷积神经网络（CNN）所做的决策方面表现出卓越性能。为实现对 CNN 的视觉解释，基于类激活映射和随机输入采样的方法已广受欢迎。然而，基于这些技术的归因方法提供的解释图分辨率较低且模糊，限制了其解释能力。为规避此问题，人们寻求基于多层的可视化。在本工作中，我们基于一种基于归因的输入采样技术从模型的多个层收集可视化图，并将其聚合以得到细粒度且完整的解释。我们还提出了一种适用于整个 CNN 模型族的层选择策略，基于此我们的提取框架应用于可视化模型每个卷积块的最后一层。此外，我们对所推导的低层信息在增强所表示归因方面的效能进行了实证分析。在基于自然和工业数据集训练的浅层和深层模型上进行的综合实验，使用基于真值和基于模型真值的评估指标，通过达到或在解释能力与视觉质量方面超越最先进（SOTA）方法来验证我们提出的算法，表明我们的方法无论待解释对象或实例的大小如何均表现出稳定性。
引用
@article{arxiv.2010.00672,
title = {Explaining Convolutional Neural Networks through Attribution-Based Input Sampling and Block-Wise Feature Aggregation},
author = {Sam Sattarzadeh and Mahesh Sudhakar and Anthony Lem and Shervin Mehryar and K. N. Plataniotis and Jongseong Jang and Hyunwoo Kim and Yeonjeong Jeong and Sangmin Lee and Kyunghoon Bae},
journal= {arXiv preprint arXiv:2010.00672},
year = {2020}
}
备注
9 pages, 9 figures, Accepted at the Thirty-Fifth AAAI Conference on Artificial Intelligence (AAAI-21)