地球科学中卷积神经网络应用的可解释人工智能方法保真度研究
地球物理
2022-09-07 v2 人工智能
机器学习
摘要
卷积神经网络（CNNs）近期在地球科学中备受关注，因其能捕捉非线性系统行为并提取具有预测性的时空模式。然而，鉴于其黑箱性质以及预测可解释性的重要，可解释人工智能（XAI）方法作为解释 CNN 决策策略的手段正日益流行。在此，我们对一些最流行的 XAI 方法开展对比研究，并考察其在解释地球科学应用中的 CNN 决策时的保真度。我们的目标是提高对这些方法理论局限性的认识，并深入理解其相对优势与不足，以助益最佳实践。所考虑的 XAI 方法首先应用于一个理想化归因基准，其中网络解释的真实情况已知，以客观评估其性能。其次，我们将 XAI 应用于一个气候相关预测场景，即解释一个经训练用于预测气候模拟每日快照中大气河流数量的 CNN。我们的结果凸显了 XAI 方法的若干重要问题（例如梯度破碎、无法区分归因符号、对零输入的忽略），这些问题此前在本领域被忽视，若不慎加考虑，可能导致对 CNN 决策策略的扭曲认识。我们期望本分析能推动对 XAI 保真度的进一步研究，并有助于在地球科学中审慎实施 XAI，从而进一步挖掘 CNN 与深度学习在预测问题中的潜力。
引用
@article{arxiv.2202.03407,
title = {Investigating the fidelity of explainable artificial intelligence methods for applications of convolutional neural networks in geoscience},
author = {Antonios Mamalakis and Elizabeth A. Barnes and Imme Ebert-Uphoff},
journal= {arXiv preprint arXiv:2202.03407},
year = {2022}
}