XAI 归因方法中基线选择的指南
人工智能
2025-03-26 v1
摘要
鉴于人工智能的广泛应用，提供证据证明 AI 模型可靠、可信任且公平至关重要。为此，新兴的可解释 AI（XAI）领域开发了探测此类要求的技术，以抵消推动该技术普及的炒作。在该问题的诸多方面中，本文聚焦于基线归因方法，旨在依靠通常被称为“基线”的“中性”刺激，在网络输入处导出特征归因图。基线的选择至关重要，因为它决定了对网络行为的解释。在此框架下，本文具有双重目标：阐明基线选择的含义，并提供一种简单而有效的方法来识别适合该任务的最佳基线。为实现这一目标，我们提出了一种决策边界采样方法，因为基线根据定义位于决策边界上，这自然成为了搜索域。我们在合成示例上进行了实验，并依赖最先进的方法进行了验证。尽管仅限于实验范围，这一贡献仍具有相关性，因为它为基线选择提供了明确的指南和简单的代理，减少了模糊性，增强了深度模型的可靠性和可信度。
引用
@article{arxiv.2503.19813,
title = {Guidelines For The Choice Of The Baseline in XAI Attribution Methods},
author = {Cristian Morasso and Giorgio Dolci and Ilaria Boscolo Galazzo and Sergey M. Plis and Gloria Menegaz},
journal= {arXiv preprint arXiv:2503.19813},
year = {2025}
}