中文

基于人类阅读过程提示显性与隐性知识用于多跳问答

计算与语言 2024-10-17 v6

摘要

预训练语言模型 (PLMs) 利用思维链 (CoT) 模拟人类的推理和推断过程,在多跳问答中取得了优异的性能。然而,在处理复杂问题时,PLMs 的推理能力与人类之间仍存在差距。心理学研究表明,阅读过程中段落中的显性信息与人类先验知识之间存在重要联系。尽管如此,现有研究从人类认知研究的角度出发,对连接输入段落与基于 PLMs 预训练的知识关注不足。在本研究中,我们引入了提示显性与隐性知识 (Prompting Explicit and Implicit knowledge, PEI) 框架,该框架利用提示连接显性和隐性知识,使其符合多跳问答的人类阅读过程。我们将输入段落视为显性知识,利用它们通过统一提示推理来引出隐性知识。此外,我们的模型通过提示结合了特定类型的推理,这是一种隐性知识形式。实验结果表明,PEI 在 HotpotQA 数据集上的表现与最先进 (state-of-the-art) 方法相当。消融实验证实了我们的模型在桥接和整合显性与隐性知识方面的有效性。

关键词

引用

@article{arxiv.2402.19350,
  title  = {Prompting Explicit and Implicit Knowledge for Multi-hop Question Answering Based on Human Reading Process},
  author = {Guangming Huang and Yunfei Long and Cunjin Luo and Jiaxing Shen and Xia Sun},
  journal= {arXiv preprint arXiv:2402.19350},
  year   = {2024}
}

备注

This paper has been accepted at COLING 2024