学习传播规则以生成归因图
计算机视觉与模式识别
2020-10-15 v1 机器学习
摘要
先前基于梯度的归因图方法依赖于手工设计的传播规则，用于反向传播过程中的非线性/激活层，以产生输入的梯度并进而得到归因图。尽管取得了有前景的结果，此类方法对无信息的高频分量敏感，且缺乏对各类模型与样本的自适应性。本文中，我们提出一种专用方法生成归因图，该方法允许我们自动学习传播规则，从而克服手工规则的缺陷。具体而言，我们引入一个可学习的插件模块，在反向传播过程中为掩码生成对非线性层启用逐像素的自适应传播规则。随后，被掩码的输入图像再次送入模型以获得新的输出，结合原始输出可作为引导。所引入的可学习模块可在任何支持高阶微分的自动梯度框架下训练。在五个数据集与六种网络架构上的结果表明，所提方法取得了最先进的性能，并给出更干净、视觉上更合理的归因图。
引用
@article{arxiv.2010.07210,
title = {Learning Propagation Rules for Attribution Map Generation},
author = {Yiding Yang and Jiayan Qiu and Mingli Song and Dacheng Tao and Xinchao Wang},
journal= {arXiv preprint arXiv:2010.07210},
year = {2020}
}
备注
Accepted by ECCV 2020