利用混合文档与形态一致性的神经网络解释方法评估
计算与语言
2019-05-07 v3
摘要
深度神经网络 (DNNs) 的行为难以理解。这使得探索事后解释方法成为必要。我们针对 NLP 中的解释方法进行了首次综合评估。为此，我们设计了两种新颖的评估范式，涵盖两类重要的 NLP 问题：小上下文与大上下文问题。两种范式均无需人工标注，因此具有广泛适用性。我们还引入了 LIMSSE，一种受 LIME 启发、为 NLP 设计的解释方法。我们通过实验表明，LIMSSE、LRP 和 DeepLIFT 是最有效的解释方法，并推荐它们用于解释 NLP 中的 DNNs。
引用
@article{arxiv.1801.06422,
title = {Evaluating neural network explanation methods using hybrid documents and morphological agreement},
author = {Nina Poerner and Benjamin Roth and Hinrich Schütze},
journal= {arXiv preprint arXiv:1801.06422},
year = {2019}
}