用 APPLE 理解卷积网络：用于解释的自自动块模式标注

Sandeep Konam; Ian Quah; Stephanie Rosenthal; Manuela Veloso

用 APPLE 理解卷积网络：用于解释的自自动块模式标注

机器学习 2018-02-13 v1 计算机与社会机器学习

作者: Sandeep Konam , Ian Quah , Stephanie Rosenthal , Manuela Veloso

摘要

随着深度学习的成功，近期工作聚焦于分析所学网络如何进行分类。我们感兴趣于基于网络结构及通过网络层的信息流来分析网络输出。我们贡献了一种算法，用于 1）分析深度网络以找出就网络分类结果而言“重要”的神经元，以及 2）自动标注激活这些重要神经元的输入图像块。我们提出了若干神经元重要性度量，并展示我们的技术可用于深入理解并解释网络如何分解图像以做出最终分类。

关键词

卷积网络神经元重要性块标注可解释性图像分解深度学习信息流

引用

@article{arxiv.1802.03675,
  title  = {Understanding Convolutional Networks with APPLE : Automatic Patch Pattern Labeling for Explanation},
  author = {Sandeep Konam and Ian Quah and Stephanie Rosenthal and Manuela Veloso},
  journal= {arXiv preprint arXiv:1802.03675},
  year   = {2018}
}

备注

AAAI/ACM Conference on AI, Ethics, and Society

用 APPLE 理解卷积网络：用于解释的自自动块模式标注

摘要

关键词

引用

备注

相关论文