尺度保持的自动概念提取（SPACE）
计算机视觉与模式识别
2023-08-14 v1
摘要
卷积神经网络(CNN)已成为工业质量控制以及工业 4.0 中其他关键应用的常见选择。当这些 CNN 表现出令人类用户或开发者意外的行为时，可能引发严重后果，例如经济损失或人类生命风险增加。概念提取技术可通过为训练后的神经网络模型生成全局解释，来提高 CNN 的可靠性与透明度。质量控制中图像数据集的决定性特征常依赖于特征的尺度，例如孔或边缘的大小。然而，现有的概念提取方法不能正确表示尺度，正如我们在本文中所展示的，这导致了解释这些模型的问题。为解决该问题，我们引入了尺度保持的自动概念提取(SPACE)算法，作为一种面向工业应用的、最先进的 CNN 替代概念提取技术。SPACE 专门设计用于通过在整个概念提取过程中避免尺度变化来克服上述问题。SPACE 提出了一种基于输入图像方形切片的方法，这些切片被筛选而后拼贴，再聚为概念。我们的方法以人类可理解的概念形式提供模型决策过程的解释。我们在工业质量控制背景下的三个图像分类数据集上评估了 SPACE。实验结果表明，SPACE 优于其他方法，并提供了关于 CNN 决策机制的可操作洞见。最后，提供了 SPACE 实现的代码。
引用
@article{arxiv.2308.06022,
title = {Scale-Preserving Automatic Concept Extraction (SPACE)},
author = {Andrés Felipe Posada-Moreno and Lukas Kreisköther and Tassilo Glander and Sebastian Trimpe},
journal= {arXiv preprint arXiv:2308.06022},
year = {2023}
}
备注
22 pages, 7 figures