Guided AbsoluteGrad：梯度幅度对解释的定位与显著性至关重要
计算机视觉与模式识别
2025-06-23 v2 人工智能
人机交互
机器学习
摘要
本文提出了一种新的基于梯度的XAI方法，称为Guided AbsoluteGrad，用于显著性图解释。我们利用正负梯度幅度，并采用梯度方差来区分重要区域以进行噪声消除。我们还引入了一种新的评估指标ReCover And Predict (RCAP)，该指标考虑了解释的定位和视觉噪声水平目标。我们针对这两个目标提出了两个命题，并证明了评估它们的必要性。我们使用RCAP指标和其他SOTA指标在三个案例研究中评估了Guided AbsoluteGrad与七种基于梯度的XAI方法：(1) 使用ResNet50模型的ImageNet数据集；(2) 使用EfficientNet模型的国际皮肤成像协作(ISIC)数据集；(3) 使用DenseNet161模型的Places365数据集。我们的方法超越了其他基于梯度的方法，展示了通过梯度幅度增强的显著性图解释的质量。
引用
@article{arxiv.2404.15564,
title = {Guided AbsoluteGrad: Magnitude of Gradients Matters to Explanation's Localization and Saliency},
author = {Jun Huang and Yan Liu},
journal= {arXiv preprint arXiv:2404.15564},
year = {2025}
}
备注
CAI2024 Camera-ready Submission and Correction