概念探测性能研究：数据的影响（扩展版）

概念探测（concept probing）近期因作为解释人工神经网络而受到越来越多的关注，它既要处理神经网络通常的庞大规模，又要处理其次符号（subsymbolic）本质，这最终使得直接的人类解释变得不可行。概念探测通过训练额外的分类器，将模型的内部表示映射到人类感兴趣的概念上，从而允许人类窥视人工神经网络内部。目前关于概念探测的研究主要关注被探测的模型或探测模型本身，对训练此类探测模型所需的数据关注有限。本文致力于填补这一空白。我们聚焦于图像分类任务中的概念探测，研究用于训练探测模型的数据的效果对其性能的影响。我们也提供两个广泛使用数据集的概念标签。