利用银标准数据学习用于零样本关系抽取
计算与语言
2024-03-26 v2
摘要
有监督关系抽取(RE)方法的优越性能严重依赖于大量金标准数据。近期的零样本关系抽取方法将 RE 任务转换为其他 NLP 任务,并使用这些 NLP 任务的现成模型直接在测试数据上执行推理,而无需使用大量 RE 标注数据。这些方法一个潜在有价值的副产品是大规模的银标准数据。然而,对于这一潜在有价值的银标准数据的使用尚无进一步研究。本文中,我们提出首先从银标准数据中检测少量干净数据,然后使用所选干净数据微调预训练模型。随后我们使用微调后的模型推断关系类型。我们还提出一个类别感知的干净数据检测模块,在选取干净数据时考虑类别信息。实验结果表明,在零样本 RE 任务上,我们的方法在 TACRED 和 Wiki80 数据集上分别超越基线 12% 和 11%。通过使用不同分布的额外银标准数据,性能可进一步提升。
引用
@article{arxiv.2211.13883,
title = {Learning with Silver Standard Data for Zero-shot Relation Extraction},
author = {Tianyin Wang and Jianwei Wang and Ziqian Zeng},
journal= {arXiv preprint arXiv:2211.13883},
year = {2024}
}
备注
Our research group conducted further research and discussions on the same topic and the latest paper is here arXiv:2402.18061, which has been accepted in LREC-COLING 2024