NegatER:常识知识库中负例的无监督发现
人工智能
2021-09-13 v2 计算与语言
机器学习
摘要
将常识知识编码于机器中一直是人工智能的长期目标。近来,自动知识库(KB)构建技术在该目标上取得了诸多进展。然而,此类技术主要关注正(真)KB 语句的获取,尽管负(假)语句对于常识 KB 上的判别推理往往同样重要。作为朝后者迈出的第一步,本文提出 NegatER,一个利用上下文语言模型(LM)对常识 KB 中潜在负例进行排序的框架。重要的是,由于大多数 KB 不含负例,NegatER 仅依赖 LM 中的正知识,无需真值负例。实验表明,与多种对比数据增强方法相比,NegatER 产生的负例在语法、连贯性与信息量上更优——在一项具挑战性的 KB 补全任务中带来统计显著的准确率提升,并证实 LM 中的正知识可被“重新利用”以生成负知识。
引用
@article{arxiv.2011.07497,
title = {NegatER: Unsupervised Discovery of Negatives in Commonsense Knowledge Bases},
author = {Tara Safavi and Jing Zhu and Danai Koutra},
journal= {arXiv preprint arXiv:2011.07497},
year = {2021}
}
备注
EMNLP 2021