CEAR:用于知识库补全的跨实体感知重排序器
计算与语言
2022-01-31 v2
摘要
诸如 BERT 之类的预训练语言模型(LM)已被证明存储了关于世界的事实知识。该知识可用于增强知识库中现存的信息,而知识库往往是不完整的。然而,先前使用 BERT 进行知识库补全(KBC)任务的尝试,其性能劣于仅依赖图结构的基于嵌入的技术。本工作中我们开发了一种新颖模型,跨实体感知重排序器(CEAR),它使用 BERT 通过跨实体注意力对现有 KBC 模型的输出进行重排序。与先前独立地对每个实体打分的工作不同,CEAR 使用 BERT 对实体共同打分,这能有效利用其事实知识。CEAR 在 OLPBench 数据集上取得了新的 state of art。
引用
@article{arxiv.2104.08741,
title = {CEAR: Cross-Entity Aware Reranker for Knowledge Base Completion},
author = {Keshav Kolluru and Mayank Singh Chauhan and Yatin Nandwani and Parag Singla and Mausam},
journal= {arXiv preprint arXiv:2104.08741},
year = {2022}
}
备注
We found a bug in the code that invalidates the reported results for FB15k-237 and WN18RR. The results for OLPBench hold the same. We are in process of updating the paper