用于视觉 DNN 特征空间中概念分布分析的局部概念嵌入
摘要
对所学潜在表示的洞察对于在关键计算机视觉（CV）任务中验证深度神经网络（DNNs）至关重要。因此，最先进的基于监督概念的可解释人工智能（C-XAI）方法将用户定义的概念（如“汽车”）各自与 DNN 潜在空间中的单个向量（概念嵌入向量）相关联。在概念分割的情况下，这些向量线性分离属于某概念的激活图像素与属于背景的像素。然而，现有的概念分割方法未能捕捉隐式学习的子概念（例如，DNN 可能将汽车分为“近处汽车”和“远处汽车”）以及用户定义概念的重叠（例如“公交车”与“卡车”之间）。换言之，它们未捕捉潜在空间中概念表征的完整分布。本工作首次表明这些简化常被打破，且分布信息对于理解 DNN 学习的子概念、概念混淆和概念离群点尤为有用。为允许探索所学概念分布，我们提出一种新颖的局部概念分析框架。它不为整个数据集优化单一全局概念向量，而是为每个单独样本生成局部概念嵌入（LoCE）向量。我们利用由 LoCE 形成的分布，通过拟合高斯混合模型（GMMs）、层次聚类和概念级信息检索与离群点检测来探索潜在概念分布。尽管具有上下文敏感性，我们方法的概念分割性能仍可与全局基线相竞争。分析结果在三个数据集和六种多样的视觉 DNN 架构（包括视觉 Transformer（ViTs））上获得。
引用
@article{arxiv.2311.14435,
title = {Local Concept Embeddings for Analysis of Concept Distributions in Vision DNN Feature Spaces},
author = {Georgii Mikriukov and Gesina Schwalbe and Korinna Bade},
journal= {arXiv preprint arXiv:2311.14435},
year = {2025}
}
备注
This is the authors accepted manuscript of the article accepted for publication in the International Journal of Computer Vision (IJCV). The final version will be available via SpringerLink upon publication. To cite this work please refer to the final journal version once published