图结构对于多跳问答是否必要？
计算与语言
2020-12-14 v2
摘要
近来，将文本建模为图结构并引入图神经网络来处理它已成为许多 NLP 研究领域的趋势。在本文中，我们探究图结构对于多跳问答是否必要。我们的分析围绕 HotpotQA 展开。我们构建了一个强基线模型以表明，在恰当使用预训练模型的情况下，图结构对于多跳问答可能并非必要。我们指出图结构和邻接矩阵都是任务相关的先验知识，且图注意力可被视为自注意力的一种特例。实验与可视化分析表明，图注意力或整个图结构可被自注意力或 Transformer 替代。
引用
@article{arxiv.2004.03096,
title = {Is Graph Structure Necessary for Multi-hop Question Answering?},
author = {Nan Shao and Yiming Cui and Ting Liu and Shijin Wang and Guoping Hu},
journal= {arXiv preprint arXiv:2004.03096},
year = {2020}
}
备注
6 pages, to appear at EMNLP 2020