ConceptFlow：面向卷积神经网络的层次化和细粒度概念基解释
机器学习
2025-09-24 v1 人工智能
摘要
卷积神经网络（CNN）的概念基可解释性旨在将内部模型表示与高层语义概念对齐，但现有方法在很大程度上忽略了单个滤波器的语义角色以及概念在各层之间的动态传播。为此，本文提出 ConceptFlow，一种概念基可解释框架，通过追踪概念如何在各层中显现和演变来模拟模型的内部“思考路径”。ConceptFlow 包含两个关键组件：（i）概念注意力机制，将每个滤波器与相关的高层概念关联，以实现局部语义解释；（ii）概念路径，从概念转换矩阵中推导出，量化概念如何在滤波器之间传播和转化。这两个组件共同提供了内部模型推理的统一且结构化的视图。实验结果表明，ConceptFlow 提供了关于模型推理的语义上有意义的见解，验证了概念注意力和概念路径在解释决策行为方面的有效性。通过建模层次化概念路径，ConceptFlow 为揭示 CNN 内部逻辑提供了更深入的见解，并支持生成更可信且符合人类直觉的解释。
引用
@article{arxiv.2509.18147,
title = {ConceptFlow: Hierarchical and Fine-grained Concept-Based Explanation for Convolutional Neural Networks},
author = {Xinyu Mu and Hui Dou and Furao Shen and Jian Zhao},
journal= {arXiv preprint arXiv:2509.18147},
year = {2025}
}