PHALM:通过提示人类与语言模型从零构建知识图谱
计算与语言
2023-10-12 v1
摘要
尽管基于预训练 Transformer 的自然语言理解取得了显著进展,神经语言模型往往不能很好地处理常识知识。为构建具备常识感知的模型,已有从自动获取到众包等多种知识获取尝试。然而,以低成本尤其是从零开始获得高质量知识库十分困难。本文提出 PHALM,一种通过同时提示众包工作者与大型语言模型(LLM)从零构建知识图谱的方法。我们利用该方法构建了一个日语事件知识图谱,并训练了日语常识生成模型。实验结果表明所构建图谱及训练模型生成推断的可接受性。我们也报告了提示人类与 LLM 的差异。我们的代码、数据与模型发布于 github.com/nlp-waseda/comet-atomic-ja。
引用
@article{arxiv.2310.07170,
title = {PHALM: Building a Knowledge Graph from Scratch by Prompting Humans and a Language Model},
author = {Tatsuya Ide and Eiki Murata and Daisuke Kawahara and Takato Yamazaki and Shengzhe Li and Kenta Shinzato and Toshinori Sato},
journal= {arXiv preprint arXiv:2310.07170},
year = {2023}
}