FusionMind -- 通过外部上下文融合改进问答
计算与语言
2024-01-02 v1
摘要
利用预训练语言模型（LMs）和知识图谱（KGs）回答问题在识别相关知识和执行联合推理方面面临挑战。我们将针对该任务微调的 LMs 与先前发布的用于问答（QA）目标的 QAGNN 方法进行了比较，并进一步测量了额外事实上下文对 QAGNN 性能的影响。QAGNN 方法利用 LMs 编码 QA 上下文并估计 KG 节点重要性，并使用图神经网络（GNNs）有效更新问题选项实体表示。我们进一步尝试通过将相关问题干的相关知识事实纳入其中来增强 QA 上下文编码。模型在 OpenbookQA 数据集上进行训练，该数据集包含约 6000 个四选一选择题，被广泛用作 QA 任务的基准。通过实验，我们发现融入知识事实上下文显著提高了性能。相比之下，将知识图谱添加到语言模型中仅带来了适度的提升。这表明，与单纯添加知识图谱相比，整合上下文知识事实可能对提升问答性能更具影响力。
引用
@article{arxiv.2401.00388,
title = {FusionMind -- Improving question and answering with external context fusion},
author = {Shreyas Verma and Manoj Parmar and Palash Choudhary and Sanchita Porwal},
journal= {arXiv preprint arXiv:2401.00388},
year = {2024}
}
备注
5 pages, 4 figures, 4 tables