去而复返：重访基于反向传播的显著性方法

显著性方法旨在通过生成每个输入样本的重要性图来解释模型的预测。此类方法中一类流行的方法基于反向传播信号并分析所得梯度。尽管对此类方法已有大量研究，但相对较少的工作用于厘清这些方法之间的差异以及这些技术的期望性质。因此，亟需严格理解不同方法之间的关系及其失效模式。在本工作中，我们对基于反向传播的显著性方法进行了透彻分析，并提出了一种可统一若干此类方法的单一框架。作为研究的成果，我们做出了三项额外贡献。首先，我们利用框架提出 NormGrad，一种基于卷积权重梯度空间贡献的新型显著性方法。其次，我们结合不同层的显著性图以测试显著性方法提取不同网络层级互补信息的能力（例如权衡空间分辨率与区分性），并解释了为何某些方法在特定层失效（例如除最后卷积层外的任何位置使用 Grad-CAM）。第三，我们引入了一种类敏感度度量以及一种受元学习启发的范式，可应用于任意显著性方法以提升对所解释输出类的敏感性。