CNN神经元学习到了什么：可视化与聚类
计算机视觉与模式识别
2020-10-23 v1 机器学习
摘要
近年来，卷积神经网络（CNN）在各种任务中展现出显著进展。然而，尽管性能很高，训练和预测过程仍是一个黑箱，提取CNN中神经元学习到了什么仍是一个谜。在本文中，我们从输入图像的关注点与偏好，以及神经元对具体最终预测的支配、激活和贡献等方面来解决解释CNN的问题。具体而言，我们使用两种技术——可视化和聚类——来解决上述问题。可视化指的是在图像像素上做梯度下降的方法，在聚类部分提出了两种算法分别针对图像类别和网络神经元进行聚类。实验和定量分析已证明这两种方法在解释“神经元学习到了什么”这一问题上的有效性。
引用
@article{arxiv.2010.11725,
title = {What do CNN neurons learn: Visualization & Clustering},
author = {Haoyue Dai},
journal= {arXiv preprint arXiv:2010.11725},
year = {2020}
}
备注
9 pages, 10 figures, tech report