颗粒概念电路：面向概念表示的细粒度电路发现

深度视觉模型通过层级结构实现了显著的分类性能，其中可解释的人类概念通过单个神经元在不同层之间的组合而浮现。鉴于表征的分布性质，确定特定视觉概念在模型中编码位置仍是一个至关重要且富有挑战性的任务。本文引入一种有效的电路发现方法，称为颗粒概念电路 (Granular Concept Circuit, GCC)，其中每个电路代表与给定查询相关的概念。为构建每个电路，我们的方法迭代评估神经元之间的联结，关注功能依赖性和语义一致性。通过自动发现多个电路，每个电路捕获查询中特定概念，Our approach为模型提供了深刻的、按概念划分的解释，是首次在细粒度层面识别与特定视觉概念相关联的电路。我们在各种深度图像分类模型上验证了GCC的多样性和有效性。