机器阅读理解中对通用知识的显式利用
人工智能
2019-05-22 v3 计算与语言
摘要
为了弥合机器阅读理解（MRC）模型与人类之间的差距（主要体现在对数据的渴求以及对噪声的鲁棒性上），本文探讨了如何将 MRC 模型的神经网络与人类的通用知识相融合。一方面，我们提出了一种数据增强方法，利用 WordNet 从每个给定的篇章-问题对中提取词间语义关联作为通用知识。另一方面，我们提出了一种端到端的 MRC 模型，称为知识辅助阅读器（Knowledge Aided Reader，KAR），它显式地利用上述提取的通用知识来辅助其注意力机制。基于该数据增强方法，KAR 的性能可与最先进的 MRC 模型相媲美，并且对噪声的鲁棒性显著优于它们。当仅可用训练样本的子集（20%-80%）时，KAR 大幅优于最先进的 MRC 模型，并且仍对噪声具有合理的鲁棒性。
引用
@article{arxiv.1809.03449,
title = {Explicit Utilization of General Knowledge in Machine Reading Comprehension},
author = {Chao Wang and Hui Jiang},
journal= {arXiv preprint arXiv:1809.03449},
year = {2019}
}
备注
ACL 2019