中文

DARE:基于 GPT-2 的数据增强关系抽取方法

计算与语言 2020-04-30 v1 机器学习 机器学习

摘要

现实世界中的关系抽取(RE)任务难以处理,其原因或是训练数据有限,或是存在类别不平衡问题。在本工作中,我们提出数据增强关系抽取(DARE),一种通过适当微调 GPT-2 来为特定关系类型生成样本以扩充训练数据的简单方法。随后将生成的训练数据与黄金数据集结合,用于训练一个基于 BERT 的 RE 分类器。在一系列实验中,我们展示了本方法的优势,相较于强基线,其 F1 分数提升高达 11 个点。此外,DARE 在三个广泛使用的生物医学 RE 数据集上取得了新的最优结果(state of the art),平均超过此前最佳结果 4.7 个 F1 点。

关键词

引用

@article{arxiv.2004.13845,
  title  = {DARE: Data Augmented Relation Extraction with GPT-2},
  author = {Yannis Papanikolaou and Andrea Pierleoni},
  journal= {arXiv preprint arXiv:2004.13845},
  year   = {2020}
}