可训练噪声模型作为一种XAI评估方法：在Sobol用于遥感图像分割中的应用
计算机视觉与模式识别
2023-11-28 v2 人工智能
计算与语言
机器学习
摘要
可解释人工智能（XAI）已成为处理关键任务应用时的基本要求，确保了所采用的黑盒AI模型的透明性与可解释性。XAI的重要性跨越多个领域，从医疗到金融，理解深度学习算法的决策过程至关重要。大多数基于AI的计算机视觉模型通常是黑盒；因此，在图像处理中提供深度神经网络的可解释性，对于其在医学图像分析、自动驾驶和遥感应用中的广泛采用与部署至关重要。近年来，已引入若干用于图像分类任务的XAI方法。相反，图像分割在可解释性背景下受到的关注相对较少，尽管它是计算机视觉应用中的基础任务，尤其在遥感中。仅有少量研究提出基于梯度的图像分割XAI算法。本文改编了近期无梯度的Sobol XAI方法用于语义分割。为衡量Sobol方法在分割上的性能，我们提出了一种基于可学习噪声模型的定量XAI评估方法。该模型的主要目标是在解释图上引入噪声，其中引入的噪声越高表示准确率越低，反之亦然。我们进行了基准分析，使用所提出的基于噪声的评估技术评估并比较了三种XAI方法的性能，包括Seg-Grad-CAM、Seg-Grad-CAM++和Seg-Sobol。这构成了首次使用高分辨率卫星图像运行和评估XAI方法的尝试。
引用
@article{arxiv.2310.01828,
title = {Trainable Noise Model as an XAI evaluation method: application on Sobol for remote sensing image segmentation},
author = {Hossein Shreim and Abdul Karim Gizzini and Ali J. Ghandour},
journal= {arXiv preprint arXiv:2310.01828},
year = {2023}
}