GPT-RE：基于大语言模型的上下文学习关系抽取方法
计算与语言
2023-12-12 v3
摘要
尽管大语言模型（LLM）（如 GPT-3）具有取得突破性成果的潜力，它们在关系抽取（RE）上仍显著落后于全监督基线（如微调的 BERT）。这是由于 LLM 在 RE 中的两个主要缺陷：（1）用于上下文学习的检索示例中实体和关系的相关性低；以及（2）强烈倾向于将 NULL 示例错误分类为其他预定义标签。在本文中，我们提出 GPT-RE 以弥合 LLM 与全监督基线之间的差距。GPT-RE 通过（1）在示例检索中融入任务特定的实体表示；以及（2）用金标签诱导的推理逻辑丰富示例，成功解决了上述问题。我们在四个广泛使用的 RE 数据集上评估 GPT-RE，并观察到 GPT-RE 不仅相较现有 GPT-3 基线，也相较全监督基线取得了提升。具体而言，GPT-RE 在 Semeval 和 SciERC 数据集上取得了 SOTA 性能，并在 TACRED 和 ACE05 数据集上取得了具竞争力的性能。
引用
@article{arxiv.2305.02105,
title = {GPT-RE: In-context Learning for Relation Extraction using Large Language Models},
author = {Zhen Wan and Fei Cheng and Zhuoyuan Mao and Qianying Liu and Haiyue Song and Jiwei Li and Sadao Kurohashi},
journal= {arXiv preprint arXiv:2305.02105},
year = {2023}
}
备注
Accepted by EMNLP 2023 Main Conference (long paper)