分段与平滑对图像解释解释质量的影响远大于扰动基 XAI 方法的选择
计算机视觉与模式识别
2025-11-18 v3
摘要
扰动式后置图像解释方法广泛用于解释图像预测模型，这些方法通过扰动输入的部分区域来衡量这些区域对输出的影响。由于这些方法仅需输入和输出，因此可适用于任何模型，成为解释黑盒模型的热门选择。虽然存在许多不同的方法并已相互比较，但仍不清楚哪些方法参数负责其性能差异。本工作以 Randomized Input Sampling for Explanations (RISE) 方法为基准，评估了掩码采样、分段技术、平滑、归因计算以及分段或逐像素归因的许多组合搭配，采用代理指标进行评估。结果表明，归因计算——这在其他许多工作中是关注的焦点——对结果影响甚微。相反，分段和逐像素归因——这两项很少被检讨的参数——具有显著影响。本工作实现的数据和收集的数据均可在线获取：https://github.com/guspih/post-hoc-image-perturbation 和 https://bit.ly/smooth-mask-perturbation
引用
@article{arxiv.2409.04116,
title = {Segmentation and Smoothing Affect Explanation Quality More Than the Choice of Perturbation-based XAI Method for Image Explanations},
author = {Gustav Grund Pihlgren and Kary Främling},
journal= {arXiv preprint arXiv:2409.04116},
year = {2025}
}
备注
This manuscript have been published in IJCNN 2025