PCACE：一种用于 CNN 可解释性神经元排序的统计方法
计算机视觉与模式识别
2022-01-03 v1 计算机与社会
机器学习
摘要
在卷积神经网络（CNN）可解释性文献日益增长的背景下，本文引入一个新问题。先前工作聚焦于如何对 CNN 作视觉解释，我们则追问我们所关心解释的对象是什么，亦即哪些层与神经元值得关注？由于现代深度学习网络架构的庞大尺寸，需要自动化的定量方法对神经元的相对重要性排序以回答此问题。我们提出一种对网络中任意卷积层隐藏神经元排序的新统计方法。我们将重要性定义为激活图与类别得分之间的最大相关性。我们提供了该方法用于 MNIST 与 ImageNet 可视化目的的不同使用方式，并展示了我们的方法在基于街景图像空气污染预测中的真实应用。
引用
@article{arxiv.2112.15571,
title = {PCACE: A Statistical Approach to Ranking Neurons for CNN Interpretability},
author = {Sílvia Casacuberta and Esra Suel and Seth Flaxman},
journal= {arXiv preprint arXiv:2112.15571},
year = {2022}
}