循环神经网络解释方法的评估
机器学习
2019-06-05 v3 神经与进化计算
机器学习
摘要
近来，已有若干方法被提出用于解释循环神经网络（RNN）的预测，特别是 LSTM 的预测。这些方法的目标是通过为每个输入变量（例如一个词）分配一个相关性来理解决策，该相关性指示其对特定预测的贡献程度。在先前的工作中，其中一些方法尚未相互比较，或仅进行了定性评估。我们通过在不同设置下系统且定量地比较这些方法弥补了这一空白，即（1）我们用作健全性检查的玩具算术任务，（2）电影评论的五类情感预测，此外（3）我们探索词相关性用于构建句子级表示的效用。最后，使用在我们实验中表现最好的方法，我们展示了否定等特定语言现象在情感分析中如何反映为相关性模式，以及相关性可视化如何帮助理解单个样本的错误分类。
引用
@article{arxiv.1904.11829,
title = {Evaluating Recurrent Neural Network Explanations},
author = {Leila Arras and Ahmed Osman and Klaus-Robert Müller and Wojciech Samek},
journal= {arXiv preprint arXiv:1904.11829},
year = {2019}
}
备注
14 pages, accepted for ACL'19 Workshop BlackboxNLP: Analyzing and Interpreting Neural Networks for NLP