DP-CRE: 通过解耦对比学习和记忆结构保持的持续关系抽取
计算与语言
2024-03-06 v1
摘要
持续关系抽取（CRE）旨在从非平稳数据流中增量学习关系知识。由于新关系任务的引入可能掩盖先前学习的信息，灾难性遗忘成为该领域的一个重大挑战。当前基于回放的训练范式统一优先处理所有数据，并通过多轮训练记忆样本，这会导致对旧任务的过拟合和对新任务的明显偏差，因为回放集的不平衡。为了解决这个问题，我们引入了解耦持续关系抽取（DP-CRE）框架，该框架将先验信息保留和新知识获取的过程解耦。该框架检查新关系类出现时嵌入空间的变化，明确管理知识的保留和获取。大量实验表明，DP-CRE在两个数据集上显著优于其他CRE基线。
引用
@article{arxiv.2403.02718,
title = {DP-CRE: Continual Relation Extraction via Decoupled Contrastive Learning and Memory Structure Preservation},
author = {Mengyi Huang and Meng Xiao and Ludi Wang and Yi Du},
journal= {arXiv preprint arXiv:2403.02718},
year = {2024}
}
备注
Accepted By LREC-Coling-2024, 10 pages with 2 pages of appendix