用于CNN可解释性的梯度加权超像素
计算机视觉与模式识别
2019-08-27 v1 机器学习
机器学习
摘要
随着卷积神经网络融入我们的日常生活，对它们可解释的需求日益增长。然而，高效计算但解释困难的方法，与计算缓慢但提供更具可解释结果的方法之间，往往存在权衡。在需要大输入量的问题空间（尤其是结合空间与时间维度的视频）中，这尤其具有挑战性。本工作中，我们引入通过基于梯度的像素评分技术对超像素进行评分的思想。我们从定性和定量上表明，这能在极短时间内近似LIME。我们使用大规模数据集（分别为ImageNet和Kinetics-400）上的图像分类和网络动作识别，研究了我们的技术。
引用
@article{arxiv.1908.08997,
title = {Gradient Weighted Superpixels for Interpretability in CNNs},
author = {Thomas Hartley and Kirill Sidorov and Christopher Willis and David Marshall},
journal= {arXiv preprint arXiv:1908.08997},
year = {2019}
}
备注
Presented at BMVC 2019: Workshop on Interpretable and Explainable Machine Vision, Cardiff, UK