利用最小阻力路径解释深度网络

集成梯度（Integrated Gradients, IG）是一种广泛使用的基于路径的可解释方法，通过对基线到输入之间路径上的模型梯度进行积分，为输入特征赋予重要性得分。尽管在某些情况下有效，但我们展示，沿直线路径会导致错误的归因。在本文中，我们识别了这些误归因的根源，并提出了一种替代方法，通过为输入空间引入由解释模型的雅可比矩阵导出的模型诱导黎曼度量，沿该度量下的测地线积分梯度来计算归因。我们称该方法为测地线集成梯度（Geodesic Integrated Gradients, GIG）。为近似测地线路径，本文引入了两种技术：一种基于k近邻（k-Nearest Neighbours）的方法适用于较小模型，另一种基于随机变分推断（Stochastic Variational Inference）的方法适用于较大模型。此外，我们提出了新的公理——无消去完备性（No-Cancellation Completeness, NCC），该公理通过消除特征级消减，强化了完备性。我们证明，在模型诱导度量下，基于路径的归因若要满足NCC，当且仅当积分路径为测地线。通过在合成数据和真实图像分类数据上的实验，我们提供了实证证据支持理论分析，表明GIG在所考虑的基准测试中比现有方法（包括IG）更可信。