基于语言模型的知识图谱填充的任务特定预训练与提示分解
计算与语言
2022-09-01 v2
摘要
我们提出了一个使用语言模型进行知识图谱填充的系统，并在 ISWC 2022 的基于预训练语言模型的知识库构建（LM-KBC）挑战赛上进行了评测。我们的系统涉及任务特定预训练以改进 LM 对被掩码对象词元的表示、用于渐进式生成候选对象的提示分解，以及其他用于更高质量检索的方法。我们的系统是基于 BERT LM 的 LM-KBC 挑战赛赛道 1 的获胜者；它在挑战赛的隐藏测试集上取得了 55.0% 的 F-1 分数。
引用
@article{arxiv.2208.12539,
title = {Task-specific Pre-training and Prompt Decomposition for Knowledge Graph Population with Language Models},
author = {Tianyi Li and Wenyu Huang and Nikos Papasarantopoulos and Pavlos Vougiouklis and Jeff Z. Pan},
journal= {arXiv preprint arXiv:2208.12539},
year = {2022}
}
备注
To appear in ISWC 2022