IG2: 迭代梯度路径上的积分梯度用于特征归因
计算机视觉与模式识别
2024-06-18 v1 人工智能
摘要
特征归因通过提供输入特征对模型预测贡献的重要性分数，在实例层面解释人工智能(AI)。积分梯度(IG)是一种用于深度神经网络的显著路径归因方法，涉及沿从被解释输入(解释点)到反事实实例(基线)的路径对梯度进行积分。当前的IG变体主要关注解释点输出的梯度。然而，我们的研究表明，反事实输出的梯度同样显著影响特征归因。为此，我们提出了迭代梯度路径积分梯度(IG2)，同时考虑两种梯度。IG2将反事实梯度迭代地纳入积分路径，生成一条新颖的路径(GradPath)和一个新颖的基线(GradCF)。这两个新颖的IG组件有效解决了早期IG方法中的归因噪声和任意基线选择问题。作为一种路径方法，IG2满足许多理想公理，这在论文中得到了理论证明。在XAI基准、ImageNet、MNIST、TREC问答、晶圆失效模式以及CelebA人脸属性上的实验结果验证了IG2相比最先进技术提供了更优的特征归因。代码发布在：https://github.com/JoeZhuo-ZY/IG2。
引用
@article{arxiv.2406.10852,
title = {IG2: Integrated Gradient on Iterative Gradient Path for Feature Attribution},
author = {Yue Zhuo and Zhiqiang Ge},
journal= {arXiv preprint arXiv:2406.10852},
year = {2024}
}
备注
in IEEE Transactions on Pattern Analysis and Machine Intelligence, 2024