中文

面向开放词汇神经推理的常识知识学习:以慢性病文献为初步视角

计算与语言 2021-12-02 v2 人工智能

摘要

在本文中,我们利用最先进神经语言模型(NLM)处理来自开放词汇知识库(openKB)的推理任务,并应用于科学文献。为此,基于自注意力的 NLM 以常识知识库作为源任务进行训练。随后这些 NLM 在目标任务知识库上接受测试,执行涉及最普遍慢性病(亦称非传染性疾病,NCD)相关科学知识的开放词汇推理任务。我们的结果识别出在源任务与目标任务的知识推断中均表现稳定且显著的 NLM。此外,在我们通过检视所作的分析中,讨论了模型学到的语义规律与推理能力,同时展示了我们的方法在辅助 NCD 研究方面潜在益处的初步洞见。

关键词

引用

@article{arxiv.2111.13781,
  title  = {Common Sense Knowledge Learning for Open Vocabulary Neural Reasoning: A First View into Chronic Disease Literature},
  author = {Ignacio Arroyo-Fernández and José Armando Sánchez-Rojas and Arturo Tellez-Velázquez and Flavio Juárez-Martínez and Raúl Cruz-Barbosa and Enrique Guzmán-Ramírez and Yalbi Itzel Balderas-Martínez},
  journal= {arXiv preprint arXiv:2111.13781},
  year   = {2021}
}