基于模板填充的零样本三元组抽取
计算与语言
2023-09-21 v2
摘要
三元组抽取任务旨在从非结构化文本中抽取实体对及其对应的关系。现有的大多数方法在涉及特定目标关系的训练数据上训练抽取模型，无法抽取在训练时未观察到的新关系。将模型泛化到未见关系通常需要在合成训练数据上进行微调，而这些数据往往是有噪声且不可靠的。我们表明，通过将三元组抽取简化为在预训练语言模型 (LM) 上的模板填充任务，我们可以赋予抽取模型零样本学习能力，并消除对额外训练数据的需求。我们提出了一个新颖的框架 ZETT（基于模板填充的零样本三元组抽取），该框架将任务目标与生成式 Transformer 的预训练目标对齐，以泛化到未见关系。在 FewRel 和 Wiki-ZSL 数据集上的实验表明，ZETT 表现出一致且稳定的性能，甚至在使用自动生成的模板时也优于先前的 SOTA 方法。https://github.com/megagonlabs/zett/
引用
@article{arxiv.2212.10708,
title = {Zero-shot Triplet Extraction by Template Infilling},
author = {Bosung Kim and Hayate Iso and Nikita Bhutani and Estevam Hruschka and Ndapa Nakashole and Tom Mitchell},
journal= {arXiv preprint arXiv:2212.10708},
year = {2023}
}
备注
IJCNLP-AACL 2023 (main)