CNN 神经元层次可解释性概念归纳案例研究
计算机视觉与模式识别
2026-03-03 v1 人工智能
摘要
深度神经网络 (DNN) 在医疗、自动驾驶和场景理解等领域取得显著进展，但其隐藏神经元的内部语义仍鲜有人知。先前工作提出了基于概念归纳的框架用于隐藏神经元分析，并在 ADE20K 数据集上证明其有效性。在此案例研究中，我们调查该方法是否能推广至 SUN2012 数据集——一个大型场景识别基准数据集。我们采用相同的工作流程，为神经元分配可解释语义标签，并通过网络来源图像和统计检验进行验证。我们的发现确认该方法可移植至 SUN2012，显示其更广泛的适用性。
引用
@article{arxiv.2603.00197,
title = {A Case Study on Concept Induction for Neuron-Level Interpretability in CNN},
author = {Moumita Sen Sarma and Samatha Ereshi Akkamahadevi and Pascal Hitzler},
journal= {arXiv preprint arXiv:2603.00197},
year = {2026}
}