深度学习自然语言处理模型的上下文敏感可视化
计算与语言
2021-05-27 v1 机器学习
摘要
Transformer神经网络的引入在过去几年改变了自然语言处理（NLP）的格局。迄今为止，尚无可视化系统能考察Transformer的所有方面，这给了我们当前工作的动机。我们提出一种新的NLP Transformer上下文敏感可视化方法，其利用现有NLP工具寻找对输出影响最大的、最具显著性的词元（单词）组，从而保留原始文本的若干上下文。首先，我们使用句子级依存句法分析器来高亮有潜力的词组。该依存句法分析器创建句子中词之间关系的树。接下来，我们系统性地从输入文本中移除相邻的与非相邻的\emph{n}词元元组，生成若干缺失这些词元的新文本。所得文本随后传入预训练的BERT模型。将分类输出与完整文本比较，并记录激活强度的差异。选取在目标分类输出神经元上产生最大差异的修改文本，将被移除单词的组合视为对模型输出最具影响。最后，最具影响的单词组合在热力图中可视化。
引用
@article{arxiv.2105.12202,
title = {Context-Sensitive Visualization of Deep Learning Natural Language Processing Models},
author = {Andrew Dunn and Diana Inkpen and Răzvan Andonie},
journal= {arXiv preprint arXiv:2105.12202},
year = {2021}
}
备注
9 pages, 10 figures