面向常识推理的上下文知识结构学习
计算与语言
2021-06-07 v3
摘要
近来,知识图谱(KG)增强模型在各种常识推理任务上取得了显著成功。然而,KG 边(事实)的稀疏性以及含噪的边抽取/生成常常阻碍模型获取可用于推理的有用知识。为解决这些问题,我们提出了一种新的 KG 增强模型:混合图网络(HGN)。与先前方法不同,HGN 学习在一个统一的图结构中对抽取知识与生成知识进行联合上下文化推理。给定任务输入上下文与抽取出的 KG 子图,HGN 被训练为该子图缺失边生成嵌入以形成“混合”图,随后在混合图上进行推理并过滤掉与上下文无关的边。我们通过在四个常识推理基准上的大幅性能提升,以及一项关于边有效性与有用性的用户研究,证明了 HGN 的有效性。
引用
@article{arxiv.2010.12873,
title = {Learning Contextualized Knowledge Structures for Commonsense Reasoning},
author = {Jun Yan and Mrigank Raman and Aaron Chan and Tianyu Zhang and Ryan Rossi and Handong Zhao and Sungchul Kim and Nedim Lipka and Xiang Ren},
journal= {arXiv preprint arXiv:2010.12873},
year = {2021}
}
备注
Accepted to Findings of ACL-IJCNLP 2021. Code and data: https://github.com/INK-USC/HGN