基于推理图单序列预测的多跳问答方法
计算与语言
2023-07-04 v1 机器学习
摘要
近期用于多跳问答(QA)的生成式方法利用fusion-in-decoder方法~\cite{izacard-grave-2021-leveraging}生成单一序列输出,其中包含最终答案以及得出该答案所采取的推理路径,例如段落标题与这些段落中的关键事实。尽管此类模型可带来更好的可解释性与高量化分数,它们常难以准确识别上下文中对应关键实体的段落,导致错误的段落跳转以及推理路径缺乏忠实性。为此,我们提出一种基于局部推理图的单序列预测方法(\model)\footnote{代码/模型将发布于 \url{https://github.com/gowtham1997/SeqGraph}},该方法整合了将每个上下文段落中关键实体连接到各问题相关后续段落的图结构。我们使用图神经网络编码该图结构,并将所得表示融合进模型的实体表示中。我们的实验表明,在HotpotQA数据集上答案精确匹配/F1分数与推理路径依据忠实性均有显著提升,并在Musique数据集上以仅至多4%的模型参数增长取得最优结果。
引用
@article{arxiv.2307.00335,
title = {Single Sequence Prediction over Reasoning Graphs for Multi-hop QA},
author = {Gowtham Ramesh and Makesh Sreedhar and Junjie Hu},
journal= {arXiv preprint arXiv:2307.00335},
year = {2023}
}