COMET：用于自动知识图谱构建的常识 Transformer
计算与语言
2019-06-18 v2 人工智能
摘要
我们针对两个流行的常识知识图谱 ATOMIC (Sap et al., 2019) 和 ConceptNet (Speer et al., 2017) 提出了首项关于自动知识库构建的综合研究。与许多以规范模板存储知识的传统知识库不同，常识知识库仅存储松散结构的开放文本知识描述。我们认为，迈向自动常识补全的重要一步是开发常识知识的生成模型，并提出了 COMmonsEnse Transformers (COMET)，其学习以自然语言生成丰富多样的常识描述。尽管常识建模存在挑战，我们的研究表明，将深度预训练语言模型中的隐式知识迁移以生成常识知识图谱中的显式知识可取得有前景的结果。实证结果表明，COMET 能够生成人类评为高质量的新知识，在 top 1 上分别达到最高 77.5% (ATOMIC) 和 91.7% (ConceptNet) 的准确率，已接近这些资源上的人类表现。我们的发现表明，使用生成式常识模型进行自动常识知识库补全可能很快成为抽取式方法的一个合理替代方案。
引用
@article{arxiv.1906.05317,
title = {COMET: Commonsense Transformers for Automatic Knowledge Graph Construction},
author = {Antoine Bosselut and Hannah Rashkin and Maarten Sap and Chaitanya Malaviya and Asli Celikyilmaz and Yejin Choi},
journal= {arXiv preprint arXiv:1906.05317},
year = {2019}
}
备注
Accepted to ACL 2019