可解释 GeoAI：显著性图能否帮助理解人工智能的学习过程？一项关于自然特征检测的实证研究

提升地理空间人工智能（GeoAI）模型的可解释性对于打开深度学习和复杂 AI 模型等“黑箱”至关重要。本文比较了流行的显著性图生成技术及其在解释 GeoAI 与深度学习模型推理行为时的优缺点，特别是在应用于地理空间分析与图像处理任务时。我们调研了两类广泛的模型解释方法：基于扰动的和基于梯度的方法。前者通过修改输入图像的局部区域来识别重要的图像区域，从而帮助机器做出预测。后者通过梯度反向传播评估输入图像中每个像素对模型预测结果的贡献。在本研究中，针对使用深度学习的自然特征检测任务，考察了三种算法——遮挡法、积分梯度法和类激活图法。讨论了这些算法的优缺点，并比较了模型学习到的与目标识别中人类可理解概念之间的一致性。实验使用了两个 GeoAI 就绪数据集来展示研究发现的泛化性。