它在意你问了什么吗？理解动词在深度学习问答系统中的重要性
计算与语言
2022-11-28 v1
摘要
在本文中，我们呈现了一项关于在 SQuAD 数据集上训练的深度学习问答系统中动词重要性的调查结果。我们表明，问题中的主动词对系统所作决策影响甚微——在超过 90% 的研究案例中，将动词替换为其反义词并未改变系统决策。我们将该现象追踪至网络内部，分析了自注意力机制以及 RNN 隐藏层中包含的值。最后，我们认定 SQuAD 数据集的特征是该问题的根源。我们的工作涉及近期流行的 NLP 对抗样本主题，并结合了对深度网络结构的探究。
引用
@article{arxiv.1809.03740,
title = {Does it care what you asked? Understanding Importance of Verbs in Deep Learning QA System},
author = {Barbara Rychalska and Dominika Basaj and Przemyslaw Biecek and Anna Wroblewska},
journal= {arXiv preprint arXiv:1809.03740},
year = {2022}
}
备注
Accepted to Analyzing and interpreting neural networks for NLP workshop at EMNLP 2018