通过对抗式类别增强学习用于持续关系抽取的鲁棒表示
计算与语言
2022-10-11 v1
摘要
持续关系抽取(CRE)旨在从类增量数据流中持续学习新的关系。CRE模型通常遭受灾难性遗忘问题,即当模型学习新关系时,旧关系的性能严重下降。以往大多数工作将灾难性遗忘归因于新关系出现时所学表示的损坏,并隐含假设CRE模型已充分学习了旧关系。本文通过实证研究表明该假设可能不成立,并认为灾难性遗忘的一个重要原因是所学表示在后续学习过程中面对类似关系出现时缺乏良好的鲁棒性。为解决此问题,我们鼓励模型通过一种简单而有效的对抗式类别增强机制(ACA)学习更精确、更鲁棒的表示,该机制易于实现且与模型无关。实验结果表明,ACA能持续提升两个流行基准上最先进CRE模型的性能。
引用
@article{arxiv.2210.04497,
title = {Learning Robust Representations for Continual Relation Extraction via Adversarial Class Augmentation},
author = {Peiyi Wang and Yifan Song and Tianyu Liu and Binghuai Lin and Yunbo Cao and Sujian Li and Zhifang Sui},
journal= {arXiv preprint arXiv:2210.04497},
year = {2022}
}
备注
Accepted by EMNLP 2022