一种面向卷积神经网络的信息论可视化分析框架
计算机视觉与模式识别
2023-08-10 v1 图形学
摘要
尽管卷积神经网络（CNNs）在计算机视觉和自然语言处理领域取得了巨大成功，但其背后的工作机制仍处于广泛讨论和研究之中。在对神经网络理论解释的强烈需求驱动下，一些研究者利用信息论来洞察这个黑箱模型。然而，据我们所知，在可视化社区中，运用信息论对神经网络进行定量分析和定性可视化的研究尚未广泛开展。在本文中，我们结合信息熵和可视化技术，以揭示CNN的工作原理。具体来说，我们首先引入一个数据模型来组织可从CNN模型中提取的数据。然后，我们提出了两种在不同情况下计算熵的方法。为了从信息论的角度提供对CNNs基本构建模块（例如，卷积层、池化层、归一化层）的基础性理解，我们开发了一个可视化分析系统CNNSlicer。CNNSlicer允许用户交互式地探索模型内部信息量的变化。通过对广泛使用的基准数据集（MNIST和CIFAR-10）的案例研究，我们展示了该系统在打开CNNs黑箱方面的有效性。
引用
@article{arxiv.2005.02186,
title = {An Information-theoretic Visual Analysis Framework for Convolutional Neural Networks},
author = {Jingyi Shen and Han-Wei Shen},
journal= {arXiv preprint arXiv:2005.02186},
year = {2023}
}