增强可解释性：积分梯度方法的调查研究
数值分析
2024-09-17 v1 数值分析
摘要
我们对基于积分梯度 (IG) 的方法和重要方向梯度积分 (IDGI) 框架进行了可复现性研究。IDGI 消除了基于 IG 的方法在计算积分梯度时使用黎曼积分的每一步计算中的解释噪声。我们对 IDGI 进行了严格的理论分析，并提出了几个关键问题，随后通过我们的研究加以解决。我们还通过实验验证了作者关于 IDGI 相对于基于 IG 方法性能的声明。此外，我们改变了黎曼近似中使用的步数，这是所有 IG 方法中的一个基本参数，并分析了结果的相应变化。我们还研究了归因方法的数值不稳定性，以检查生成的显著性图的一致性。由于现有代码不足以支持本研究，我们开发了完整的代码以在基线 IG 方法上实现 IDGI，并使用三个指标对其进行了评估。
引用
@article{arxiv.2409.09043,
title = {Strengthening Interpretability: An Investigative Study of Integrated Gradient Methods},
author = {Shree Singhi and Anupriya Kumari},
journal= {arXiv preprint arXiv:2409.09043},
year = {2024}
}
备注
19 pages, 5 figures