解释循环与基于注意力的神经模型：以自然语言推理为例
计算与语言
2019-05-21 v1 人工智能
机器学习
摘要
深度学习模型在自然语言推理（NLI）任务中取得了显著成功。尽管这些模型被广泛探索，它们难以解释，且通常不清楚它们究竟如何以及为何起作用。本文中，我们通过对一个流行的 NLI 神经模型进行案例研究，朝解释此类基于深度学习的模型迈出一步。具体地，我们提出通过可视化注意力和 LSTM 门控信号的显著性来解释 NLI 模型的中间层。我们给出若干例子，我们的方法能从中揭示有趣见解并识别对模型决策有关键贡献的信息。
引用
@article{arxiv.1808.03894,
title = {Interpreting Recurrent and Attention-Based Neural Models: a Case Study on Natural Language Inference},
author = {Reza Ghaeini and Xiaoli Z. Fern and Prasad Tadepalli},
journal= {arXiv preprint arXiv:1808.03894},
year = {2019}
}
备注
11 pages, 11 figures, accepted as a short paper at EMNLP 2018