GrapeQA:通过图增强与剪枝提升问答性能
计算与语言
2023-05-17 v2
摘要
常识问答(QA)方法将预训练语言模型(LM)的能力与知识图谱(KG)提供的推理相结合。一种典型方法从 KG 中收集与 QA 对相关的节点以构成工作图(WG),随后使用图神经网络(GNN)进行推理。这面临两大挑战:(i)难以在 WG 中捕获 QA 对的全部信息;(ii)WG 含有来自 KG 的一些不相关节点。为应对这些,我们提出 GrapeQA,对 WG 做两处简单改进:(i)用于图增强的显著实体从 QA 对中识别相关文本块,并以 LM 中对应的潜在表示扩充 WG;(ii)上下文感知节点剪枝移除与 QA 对相关性较低的节点。我们在 OpenBookQA、CommonsenseQA 与 MedQA-USMLE 上评估了结果,发现 GrapeQA 较其 LM + KG 前身(尤其是 QA-GNN)有一致提升,并在 OpenBookQA 上取得大幅改进。
引用
@article{arxiv.2303.12320,
title = {GrapeQA: GRaph Augmentation and Pruning to Enhance Question-Answering},
author = {Dhaval Taunk and Lakshya Khanna and Pavan Kandru and Vasudeva Varma and Charu Sharma and Makarand Tapaswi},
journal= {arXiv preprint arXiv:2303.12320},
year = {2023}
}