回归基线：检验解释性指标上的基线效应
人工智能
2025-12-15 v1 计算机视觉与模式识别
摘要
归因方法是可解释人工智能（XAI）中最常用的技术之一，通常用于评估和比较，Fidelity 指标尤为流行，其中插入和删除是最常用的。这些指标依赖于基线函数来改变输入图像中归因图认为最重要的像素。在本工作中，我们指出这些指标的一个关键问题：给定基线的选择不可避免地会使某些归因方法受到青睐。更令人担忧的是，甚至一个简单的线性模型与常用基线相矛盾，分别指定不同的优化方法。于是出现了一个问题：我们应该使用哪个基线？我们提出通过两种理想的基线属性来研究此问题：(i) 它删除信息；(ii) 它不会产生过度的 out-of-distribution（OOD）图像。我们首先指出，测试中使用的基线都不满足上述两个准则，而当前基线之间似乎存在一种权衡：要么删除信息，要么产生一系列 OOD 图像。最后，我们引入一种新型基线，利用最近在特征可视化方面的工作，人工产生一种模型依赖的基线，既删除信息又不至于过度 OOD，从而在与其他现有基线相比时改善了这一权衡。我们的代码已公开于 https://github.com/deel-ai-papers/Back-to-the-Baseline。
关键词
引用
@article{arxiv.2512.11433,
title = {Back to the Baseline: Examining Baseline Effects on Explainability Metrics},
author = {Agustin Martin Picard and Thibaut Boissin and Varshini Subhash and Rémi Cadène and Thomas Fel},
journal= {arXiv preprint arXiv:2512.11433},
year = {2025}
}