基于 LIME 的 underwater 声呐图像分类与分析

深度学习技术已通过模拟人类认知方式自动化复杂决策过程，彻底改变了图像分类领域。然而，由于缺乏对模型黑箱本质的解释性，AI 系统在野外部署——尤其是在高安全领域如国防领域——受到限制。为此， eXplainable AI（XAI）作为探索深层神经网络未被解释隐藏本质的新兴研究领域受到关注。本文探索了将 eXplainable Artificial Intelligence（XAI）工具应用于 underwater 图像分类结果的应用，作为该领域最先进工作之一。我们的研究涉及来自多个来源（包括 Seabed Objects KLSG 数据集、camera SONAR 数据集、mine SONAR 图像数据集和 SCTD 数据集）派生的自定义数据集的声呐图像分类。对基于 VGG16、ResNet50、InceptionV3、DenseNet121 等基准卷积神经网络（CNN）架构进行的图像分类迁移学习技术进行了广泛分析。在这些分类模型之上，采用后置 XAI 技术——Local Interpretable Model-Agnostic Explanations（LIME）——通过局部扰动输入数据以观察预测变化，为模型决策提供透明的依据。此外，还广泛研究了 Submodular Picks LIME（SP-LIME），即一种针对图像的 LIME 版本，该版本基于子模组挑选对图像进行局部扰动。为实现子模组挑选，本文借助两种子模组优化算法即 Quickshift 和 Simple Linear Iterative Clustering（SLIC）。对 XAI 技术的广泛分析凸显了结果在更符合人类认知方式下的可解释性，从而增强了我们的信心和可靠性。