面向零样本关系三元组生成的生成式元学习
计算与语言
2025-04-29 v2
摘要
零样本关系三元组抽取（ZeroRTE）旨在从包含未见关系类型的文本中抽取关系三元组。该能力有益于多种下游信息检索（IR）任务。主要挑战在于使模型能够有效泛化至未见关系类别。现有方法通常利用预训练语言模型中嵌入的知识来完成泛化过程。然而，这些方法在训练时仅关注拟合训练数据，并未专门提升模型的泛化性能，导致泛化能力有限。为此，我们探索将双层优化（BLO）与预训练语言模型相融合，以直接从训练数据中学习泛化知识，并提出一种生成式元学习框架，该框架利用元学习的“学会学习”能力来增强生成模型的泛化能力。具体而言，我们引入一种同时处理数据拟合与泛化的 BLO 方法。这是通过构建关注泛化的上层损失和确保准确数据拟合的下层损失来实现的。在此基础上，我们随后开发了三种生成式元学习方法，每种均针对一类不同的元学习。大量实验结果表明，我们的框架在 ZeroRTE 任务上表现良好。我们的代码可在 https://github.com/leeworry/TGM-MetaLearning 获取。
引用
@article{arxiv.2305.01920,
title = {Generative Meta-Learning for Zero-Shot Relation Triplet Extraction},
author = {Wanli Li and Tieyun Qian and Yi Song and Zeyu Zhang and Jiawei Li and Zhuang Chen and Lixin Zou},
journal= {arXiv preprint arXiv:2305.01920},
year = {2025}
}