大语言模型时代的关系抽取再探
计算与语言
2024-07-17 v2
摘要
关系抽取(RE)是从文本中推断实体间语义关系的核心 NLP 任务。标准的监督 RE 技术需要训练模块来标注构成实体跨度的词元,然后预测它们之间的关係。近期工作转而将该问题视为\emph{序列到序列}任务,将实体间的关系线性化为基于输入条件生成的目标字符串。在此我们推进了这一方法的极限,使用了比先前工作更大的语言模型(GPT-3 与 Flan-T5 large),并在不同监督程度下的标准 RE 任务上评估其性能。我们通过人工评估来解决生成式 RE 方法固有的评估问题,而非依赖精确匹配。在此精细化评估下,我们发现:(1) 使用 GPT-3 的少样本提示达到了接近 SOTA 的性能,即大致等同于现有的全监督模型;(2) Flan-T5 在少样本设置中能力较弱,但使用思维链(CoT)风格的解释(通过 GPT-3 生成)对其进行监督与微调可取得 SOTA 结果。我们发布该模型作为 RE 任务的新基线。
引用
@article{arxiv.2305.05003,
title = {Revisiting Relation Extraction in the era of Large Language Models},
author = {Somin Wadhwa and Silvio Amir and Byron C. Wallace},
journal= {arXiv preprint arXiv:2305.05003},
year = {2024}
}
备注
Accepted to ACL 2023