IDGI：一种消除积分梯度解释噪声的框架
计算机视觉与模式识别
2023-03-28 v1 人工智能
机器学习
摘要
积分梯度（Integrated Gradients, IG）及其变体是解释深度神经网络决策的知名技术。尽管基于 IG 的方法达到了最先进的性能，它们常将噪声整合进其解释显著图中，降低了可解释性。为最小化噪声，我们分析地考察了噪声来源，并基于我们的分析发现提出了一种减少解释噪声的新方法。我们提出了重要方向梯度积分（Important Direction Gradient Integration, IDGI）框架，其可轻松融入任何使用黎曼积分（Reimann Integration）计算积分梯度的基于 IG 的方法中。使用三种基于 IG 的方法的大量实验表明，IDGI 在众多可解释性指标上大幅改进了它们。
引用
@article{arxiv.2303.14242,
title = {IDGI: A Framework to Eliminate Explanation Noise from Integrated Gradients},
author = {Ruo Yang and Binghui Wang and Mustafa Bilgic},
journal= {arXiv preprint arXiv:2303.14242},
year = {2023}
}
备注
Accepted by CVPR 2023