卷积权重的奇异值分解：一种CNN可解释性框架
计算机视觉与模式识别
2022-08-16 v1 人工智能
机器学习
摘要
用于图像分类的深度神经网络通常在将特征传入线性分类器之前使用卷积滤波器提取区分性特征。多数可解释性文献侧重于为卷积滤波器赋予语义含义，以解释模型的推理过程并确认其使用了来自输入域的相关信息。全连接层可通过对其权重矩阵进行奇异值分解来研究，实质上是研究各矩阵行之间的相关性以发现映射的动力学。在本工作中，我们定义了卷积层权重张量的奇异值分解，从而对滤波器间的相关性提供类似的理解，揭示卷积映射的动力学。我们利用随机矩阵理论的最新结果验证了我们的定义。通过将该分解应用于图像分类网络的各线性层，我们提出了一种框架，可据此使用超图建模类分离来应用可解释性方法。我们不是借助激活值来解释网络，而是使用每个线性层中对应最大奇异值的奇异向量来识别对网络最为重要的那些特征。我们通过示例说明了我们的方法，并介绍了DeepDataProfiler库，即本研究所用的分析工具。
引用
@article{arxiv.2208.06894,
title = {The SVD of Convolutional Weights: A CNN Interpretability Framework},
author = {Brenda Praggastis and Davis Brown and Carlos Ortiz Marrero and Emilie Purvine and Madelyn Shapiro and Bei Wang},
journal= {arXiv preprint arXiv:2208.06894},
year = {2022}
}