基于加性分解的循环神经网络预测归因方法
计算与语言
2019-03-28 v1 机器学习
摘要
RNN 模型在广泛的文本挖掘任务中取得了最先进的性能。然而，这些模型常被视为黑盒，并因缺乏可解释性而受到批评。本文通过为 RNN 预测提供可解释的理据来增强 RNN 的可解释性。尽管如此，解释 RNN 仍是一个具有挑战性的问题。首先，与依赖局部近似的现有方法不同，我们旨在提供对 RNN 模型决策过程更忠实的理据。其次，灵活的解释方法应能为不同长度的文本片段分配贡献分数，而非仅针对单个词。为应对这些挑战，我们提出了一种称为 REAT 的新型归因方法，为 RNN 预测提供解释。REAT 将 RNN 的最终预测分解为输入文本中每个词的加性贡献。该加性分解使 REAT 能进一步获得短语级别的归因分数。此外，REAT 通常适用于多种 RNN 架构，包括 GRU、LSTM 及其双向版本。实验结果证明了所提归因方法的忠实性与可解释性。综合分析表明，我们的归因方法可揭示 RNN 所捕获的有用语言知识。一些分析进一步表明，我们的方法可用作调试工具以检查 RNN 的脆弱性与失败原因，这可能引出若干有前景的未来方向以提升 RNN 的泛化能力。
引用
@article{arxiv.1903.11245,
title = {On Attribution of Recurrent Neural Network Predictions via Additive Decomposition},
author = {Mengnan Du and Ninghao Liu and Fan Yang and Shuiwang Ji and Xia Hu},
journal= {arXiv preprint arXiv:1903.11245},
year = {2019}
}
备注
The 2019 Web Conference (WWW 2019)