卷积文本图分类器中的逐层相关性可视化
计算与语言
2019-09-25 v1 机器学习
摘要
深度神经网络 (DNN) 隐藏层中的表示通常难以解释，因为很难将它们投影到可解释的域中。图卷积网络 (GCN) 允许这种投影，但现有的可解释性方法并未利用这一事实，即未将解释聚焦于中间状态。在本工作中，我们提出一种新方法，追踪并可视化在 GCN 的可见层与隐藏层中促成分类决策的特征。我们的方法揭示了输入图结构中的隐藏跨层动态。我们通过实验证明，它为 GCN 句子分类器产生了有意义的逐层解释。
引用
@article{arxiv.1909.10911,
title = {Layerwise Relevance Visualization in Convolutional Text Graph Classifiers},
author = {Robert Schwarzenberg and Marc Hübner and David Harbecke and Christoph Alt and Leonhard Hennig},
journal= {arXiv preprint arXiv:1909.10911},
year = {2019}
}
备注
Accepted at EMNLP 2019 Workshop on Graph-Based Natural Language Processing