利用结构与语义上下文的常识知识库补全
计算与语言
2019-12-23 v2 人工智能
摘要
与已被充分研究的传统知识库（如 Freebase）相比，面向常识知识图谱（如 ATOMIC 和 ConceptNet）的自动知识库补全带来了独特挑战。常识知识图谱使用自由文本表示节点，导致节点数量比传统知识库高出数个数量级（ATOMIC 中节点数比 Freebase (FB15K-237) 多 18 倍）。重要的是，这意味着图结构显著更稀疏——这对假设在相对较少节点上密集连通的现有知识库补全方法而言是一大挑战。本文中，我们提出新颖的知识库补全模型，通过利用节点的结构与语义上下文来应对这些挑战。具体而言，我们研究了两个关键思路：（1）利用局部图结构学习，使用图卷积网络与自动图稠化；（2）从预训练语言模型向知识图谱迁移学习，以增强知识的上下文表示。我们描述了在联合模型中融合这两类信息的方法，并给出了在 ATOMIC 上知识库补全的首个实证结果以及在 ConceptNet 上基于排序指标的评估。我们的结果表明，语言模型表示能显著提升链接预测性能，且在为计算效率而在子图上训练时，从局部图结构学习具有优势（ConceptNet 的 MRR 提升 1.5 点）。对模型预测的进一步分析揭示了语言模型擅长捕捉的常识知识类型。
引用
@article{arxiv.1910.02915,
title = {Commonsense Knowledge Base Completion with Structural and Semantic Context},
author = {Chaitanya Malaviya and Chandra Bhagavatula and Antoine Bosselut and Yejin Choi},
journal= {arXiv preprint arXiv:1910.02915},
year = {2019}
}
备注
AAAI 2020