中文

PHALM:通过提示人类与语言模型从零构建知识图谱

计算与语言 2023-10-12 v1

摘要

尽管基于预训练 Transformer 的自然语言理解取得了显著进展,神经语言模型往往不能很好地处理常识知识。为构建具备常识感知的模型,已有从自动获取到众包等多种知识获取尝试。然而,以低成本尤其是从零开始获得高质量知识库十分困难。本文提出 PHALM,一种通过同时提示众包工作者与大型语言模型(LLM)从零构建知识图谱的方法。我们利用该方法构建了一个日语事件知识图谱,并训练了日语常识生成模型。实验结果表明所构建图谱及训练模型生成推断的可接受性。我们也报告了提示人类与 LLM 的差异。我们的代码、数据与模型发布于 github.com/nlp-waseda/comet-atomic-ja。

关键词

引用

@article{arxiv.2310.07170,
  title  = {PHALM: Building a Knowledge Graph from Scratch by Prompting Humans and a Language Model},
  author = {Tatsuya Ide and Eiki Murata and Daisuke Kawahara and Takato Yamazaki and Shengzhe Li and Kenta Shinzato and Toshinori Sato},
  journal= {arXiv preprint arXiv:2310.07170},
  year   = {2023}
}