HOLMES：基于整体-部分语义的卷积图像分类器语义检查

卷积神经网络（CNN）如今是计算机视觉领域的首选模型，这得益于它们在视觉任务中自动提取特征的能力。然而，训练过程中获取的知识完全是次符号化的，因此难以理解并向最终用户解释。在本文中，我们提出了一种名为HOLMES（基于整体-部分语义的检查）的新技术，它将标签分解为一组相关概念，并为图像分类模型提供组件级别的解释。具体而言，HOLMES利用本体、网络爬虫和迁移学习，为给定的整体（类别）自动构建基于部分（部件）的检测器。然后，它在部分层面生成热力图，最后，通过用遮挡图像探测整体CNN，突出每个部分对分类输出的重要性。与最先进的显著性方法相比，HOLMES更进一步，提供了关于整体CNN正在看哪里以及看什么的信息，无需依赖密集标注的数据集，也无需强制将概念关联到单一计算单元。对不同类别物体（动物、工具和车辆）的广泛实验评估显示了该方法的可行性。平均而言，HOLMES的解释包含至少两个部分，而移除单个部分大约会使整体模型的置信度减半。生成的热力图使用删除/插入/保留曲线进行了定量评估。所有指标均与GradCAM达到的指标相当，同时具有将热力图进一步分解为人类可理解概念的优点，从而既突出了部分对物体分类的相关性，也展示了HOLMES捕捉这种相关性的能力。代码可在https://github.com/FrancesC0de/HOLMES获取。