迈向人类可理解的多维概念发现
计算机视觉与模式识别
2025-03-25 v1 人工智能
摘要
基于概念的可解释人工智能旨在通过将像素转换为在整个数据集中保持一致且人类可理解的概念，来克服传统显著性图的局限性。C-XAI 的一个关键方面是完备性，它衡量一组概念解释模型决策的程度。在 C-XAI 方法中，多维概念发现通过将 CNN 潜在空间分解为不同且可解释的概念子空间，有效地提高了完备性。然而，MCD 的解释可能难以被人类理解，引发了对其效用的担忧。为解决此问题，我们提出了人类可理解的多维概念发现。HU-MCD 使用 Segment Anything Model 进行概念识别，并实施了一种特定于 CNN 的输入掩码技术，以减少传统掩码方法引入的噪声。这些对 MCD 的修改结合完备性关系，使 HU-MCD 能够在保持解释忠实度的同时增强概念的可理解性。我们的实验（包括人类受试者研究）表明，与现有的 C-XAI 方法相比，HU-MCD 提供了更精确和可靠的解释。代码可在 https://github.com/grobruegge/hu-mcd 获取。
引用
@article{arxiv.2503.18629,
title = {Towards Human-Understandable Multi-Dimensional Concept Discovery},
author = {Arne Grobrügge and Niklas Kühl and Gerhard Satzger and Philipp Spitzer},
journal= {arXiv preprint arXiv:2503.18629},
year = {2025}
}