融合知识嵌入之外的连接关系：一种即插即用模块以增强机器阅读理解中的常识推理
计算与语言
2021-03-29 v1 人工智能
摘要
传统的机器阅读理解（MRC）已通过模式匹配得到较好解决，但常识推理能力仍是人与机器之间的差距。先前方法通过预训练知识图嵌入（KGE）丰富词表示来解决此问题。然而，它们对知识图（KG）中节点间大量连接的利用有限，而这些连接可能是构建常识推理链的关键线索。本文提出一种即插即用模块以融合连接信息用于常识推理（PIECER）。除利用知识嵌入丰富词表示外，PIECER 构建联合查询-篇章图，通过词间面向知识的连接显式引导常识推理。此外，PIECER 具有高泛化性，因其可插入任意 MRC 模型的合适位置。在需要常识推理的大规模公开 MRC 数据集 ReCoRD 上的实验结果表明，PIECER 为四种代表性基础 MRC 模型带来了稳定的性能提升，尤其在低资源设定下。
引用
@article{arxiv.2103.14443,
title = {Incorporating Connections Beyond Knowledge Embeddings: A Plug-and-Play Module to Enhance Commonsense Reasoning in Machine Reading Comprehension},
author = {Damai Dai and Hua Zheng and Zhifang Sui and Baobao Chang},
journal= {arXiv preprint arXiv:2103.14443},
year = {2021}
}