带层次结构的图注意力用于多跳问答
计算与语言
2023-01-30 v1 人工智能
摘要
多跳 QA（问答）是跨多个文档寻找问题答案的任务。近年来，提出了许多基于深度学习的方法来应对这一复杂任务，以及若干评估模型多跳 QA 能力的标准基准。本文聚焦于成熟的 HotpotQA 基准数据集，它要求模型进行答案片段抽取以及支撑句预测。我们针对 HotpotQA 上基于 SOTA 图神经网络 (GNN) 的模型 Hierarchical Graph Network (HGN) 提出两项扩展：(i) 我们通过引入查询与上下文句子节点间的新边来补全原始层次结构；(ii) 在图传播步骤中，我们提出 Hierarchical Graph Attention Network GATH（带层次结构的图注意力，Graph ATtention with Hierarchies）的一种新颖扩展，其利用图层次以顺序方式更新节点表示。在 HotpotQA 上的实验证明了所提修改的有效性，并支持我们关于模型相关变量影响的假设。
引用
@article{arxiv.2301.11792,
title = {Graph Attention with Hierarchies for Multi-hop Question Answering},
author = {Yunjie He and Philip John Gorinski and Ieva Staliunaite and Pontus Stenetorp},
journal= {arXiv preprint arXiv:2301.11792},
year = {2023}
}