遥感多标签深度学习分类任务中可解释人工智能方法的评估
机器学习
2021-09-21 v2 计算机视觉与模式识别
摘要
尽管深度神经网络在若干遥感任务中保持 state-of-the-art，其黑盒操作阻碍了对决策的理解，掩盖了数据集与模型性能中的任何偏差及其他缺陷。为此，我们将可解释人工智能 (XAI) 方法应用于遥感多标签分类任务，以产生人类可解释的说明并提升透明度。具体而言，我们利用并在基准 BigEarthNet 与 SEN12MS 数据集上训练了具备 state-of-the-art 性能的深度学习模型。采用了十种 XAI 方法来理解与解释模型预测，并辅以量化指标评估和比较其性能。我们进行了大量实验，以评估 XAI 方法在直观预测情形、竞争多标签情形以及误分类情形下的整体表现。根据我们的发现，Occlusion、Grad-CAM 与 Lime 是最具可解释性与可靠性的 XAI 方法。然而，它们均不能提供高分辨率输出，且除 Grad-CAM 外，Lime 与 Occlusion 计算开销均较大。我们还强调了 XAI 性能的不同方面，并通过对黑盒决策的洞察加以阐述，以提升透明度、理解其行为并揭示数据集的特性。
引用
@article{arxiv.2104.01375,
title = {Evaluating explainable artificial intelligence methods for multi-label deep learning classification tasks in remote sensing},
author = {Ioannis Kakogeorgiou and Konstantinos Karantzalos},
journal= {arXiv preprint arXiv:2104.01375},
year = {2021}
}