Graph-DPEP：基于图思维推理的面向少量样本文档关系抽取的分解插拔式集成方案
计算与语言
2024-11-06 v1 人工智能
信息检索
摘要
大规模语言模型（LLM）在大型语料库上预训练后，在众多 NLP 任务上展现出惊人的零样本学习能力。将 NLP 任务重构为文本到文本生成任务是常见做法，使生成式 LLM 可以通过提示解决该问题。然而，使用生成式 LLM 完成文档级别关系抽取（DocRE）任务仍具有挑战性，due to 该任务的结构化输出格式使其难以转换为纯文本。有限的少量样本和提示指令进一步导致从文档中提及实体的关系抽取存在困难和挑战。在本文中，我们将结构化输出表示为图状三元组，而非自然语言表达式，并利用生成式 LLM 完成 DocRE 任务。我们的 Graph-DPEP 框架基于三元组解释思维在自然语言中呈现的推理过程。在该框架中，我们首先引入“分解插拔”方法，通过类型空间分解来减轻对所有关系类型的区分负担。其次，我们采用验证器来校准生成结果并识别遗漏的查询实体对。最后，我们发展“ensemble-play”方案，利用与缺失查询对相关的子图中嵌入的推理思维，对整个类型列表重新进行生成，以解决缺失问题。通过与现有提示技术和其他语言模型的广泛比较实验，本框架在公开可用的基准测试上表现出优异的性能。
引用
@article{arxiv.2411.02864,
title = {Graph-DPEP: Decomposed Plug and Ensemble Play for Few-Shot Document Relation Extraction with Graph-of-Thoughts Reasoning},
author = {Tao Zhang and Ning Yan and Masood Mortazavi and Hoang H. Nguyen and Zhongfen Deng and Philip S. Yu},
journal= {arXiv preprint arXiv:2411.02864},
year = {2024}
}