通过学习中间监督信号改进多跳知识库问答
计算与语言
2021-04-08 v2 人工智能
摘要
多跳知识库问答(KBQA)旨在从知识库(KB)中找到与问题中实体相距多跳的答案实体。一个主要挑战是中间步骤缺乏监督信号。因此,多跳 KBQA 算法只能从最终答案获得反馈,这使得学习不稳定或无效。为应对该挑战,我们提出一种用于多跳 KBQA 任务的新型师生方法。在我们的方法中,学生网络旨在找到查询的正确答案,而教师网络试图学习中间监督信号以提升学生网络的推理能力。主要创新在于教师网络的设计,其中我们利用前向与后向推理来增强中间实体分布的学习。通过考虑双向推理,教师网络能产生更可靠的中间监督信号,从而缓解虚假推理问题。在三个基准数据集上的大量实验证明了我们的方法在 KBQA 任务上的有效性。用于复现我们分析的代码见 https://github.com/RichardHGL/WSDM2021_NSM。
引用
@article{arxiv.2101.03737,
title = {Improving Multi-hop Knowledge Base Question Answering by Learning Intermediate Supervision Signals},
author = {Gaole He and Yunshi Lan and Jing Jiang and Wayne Xin Zhao and Ji-Rong Wen},
journal= {arXiv preprint arXiv:2101.03737},
year = {2021}
}
备注
WSDM 2021 camer-ready version. 9 pages, code on https://github.com/RichardHGL/WSDM2021_NSM