COMET-ATOMIC 2020：论符号与神经常识知识图谱
计算与语言
2021-12-17 v2
摘要
近年来，自然语言理解领域对常识表示与推理重新产生了兴趣。新常识知识图谱（CSKG）的发展是这些进展的核心，因为其多样的事实可被机器学习模型用于应对新颖且富有挑战性的任务。与此同时，由于全面涵盖通用常识知识所需的巨大规模，关于这些资源的质量与覆盖度仍存在疑问。在本工作中，我们假定人工构建的 CSKG 永远无法达到 NLP 智能体所遇所有情境所需的覆盖度。因此，我们提出了一种基于隐式知识表示可从中有效学习的程度来测试知识图谱效用的新评估框架。基于这一新目标，我们提出了 ATOMIC 2020，一个包含预训练语言模型中不易获取知识的通用常识知识新 CSKG。我们将其性质与其他领先 CSKG 比较，进行了首次大规模常识知识资源的成对研究。接着，我们展示 ATOMIC 2020 更适于训练可为新颖、未见实体与事件生成准确、代表性知识的学习模型。最后，通过人工评估，我们表明 GPT-3（175B 参数）的少样本性能虽令人印象深刻，但仍比在 ATOMIC 2020 上训练的基于 BART 的知识模型低约 12 个绝对百分点，尽管其参数多出 430 倍以上。
引用
@article{arxiv.2010.05953,
title = {COMET-ATOMIC 2020: On Symbolic and Neural Commonsense Knowledge Graphs},
author = {Jena D. Hwang and Chandra Bhagavatula and Ronan Le Bras and Jeff Da and Keisuke Sakaguchi and Antoine Bosselut and Yejin Choi},
journal= {arXiv preprint arXiv:2010.05953},
year = {2021}
}