通过归因引导分解可视化监督与自监督神经网络
计算机视觉与模式识别
2020-12-04 v1
摘要
神经网络可视化技术根据图像位置与网络分类的相关性地标记图像位置。现有方法能有效突出对最终分类影响最大的区域。然而，正如我们所展示的，这些方法在识别替代分类的支持证据方面存在局限，我们将此效应命名为{\em 显著性偏差}假设。在这项工作中，我们整合两条研究路线：基于梯度的方法和基于归因的方法，并开发了一种提供逐类可解释性的算法。该算法以局部归因引导的方式反向投影逐像素局部影响，同时修正否则会偏置解释的显著特征。在大量实验中，我们证明了我们的方法能够实现类特定可视化，而不仅仅是预测标签。值得注意的是，该方法在常用于基于梯度方法的基准以及主要用于评估归因方法的基准中均取得了 SOTA 结果。使用一种新的无监督流程，我们的方法还成功证明了自监督方法学习到了语义信息。
引用
@article{arxiv.2012.02166,
title = {Visualization of Supervised and Self-Supervised Neural Networks via Attribution Guided Factorization},
author = {Shir Gur and Ameen Ali and Lior Wolf},
journal= {arXiv preprint arXiv:2012.02166},
year = {2020}
}