显著性回归：滤除高频成分如何改进白盒解释
人工智能
2024-06-11 v4 计算机视觉与模式识别
机器学习
摘要
归因方法是一类可解释性方法（XAI），旨在评估单个输入如何贡献于模型的决策过程。我们发现一类称为“白盒”的归因方法存在显著局限。尽管效率很高，但如我们将展示的，这些方法所依赖的梯度信号常被高频伪影污染。为克服该局限，我们引入一种称为“FORGrad”的新方法。这一简单方法利用针对各模型架构独有特征定制的最优截止频率，有效滤除这些高频伪影。我们的结果表明，FORGrad 持续增强已有白盒方法的性能，使其能与更准确但计算昂贵的“黑盒”方法有效竞争。我们期望本研究促进更简单高效的白盒可解释性方法被更广泛采用，在忠实度与计算效率间提供更好平衡。
引用
@article{arxiv.2307.09591,
title = {Saliency strikes back: How filtering out high frequencies improves white-box explanations},
author = {Sabine Muzellec and Thomas Fel and Victor Boutin and Léo andéol and Rufin VanRullen and Thomas Serre},
journal= {arXiv preprint arXiv:2307.09591},
year = {2024}
}