关于梯度基于解释方法的谱特性
机器学习
2025-08-15 v1 人工智能
计算机视觉与模式识别
摘要
理解深度网络行为至提高其结果信心至关重要。尽管为解释其预测而大量工作，但研究者面临可靠性问题，这可归因于不足的形式主义。在我们的研究中，我们采用新颖的概率和谱视角来形式化分析解释方法。我们的研究揭示了使用梯度所致的普遍谱偏见，并阐明了一些实验发现的常见设计选择，特别是使用平方梯度和输入扰动。我们进一步描述了选择解释方法中扰动超参数（如SmoothGrad）如何导致不一致的解释，并在我们提出的形式主义下引入两种补救措施：(i)一种确定标准扰动尺度的机制，和(ii)我们称为SpectralLens的聚合方法。最后，我们通过定量评估来支撑我们的理论结果。
引用
@article{arxiv.2508.10595,
title = {On Spectral Properties of Gradient-based Explanation Methods},
author = {Amir Mehrpanah and Erik Englesson and Hossein Azizpour},
journal= {arXiv preprint arXiv:2508.10595},
year = {2025}
}
备注
36 pages, 16 figures, published in European Conference on Computer Vision 2024