中文

利用噪声引导攻击增强对比学习:面向真实场景下的持续关系抽取

计算与语言 2023-05-15 v1

摘要

持续关系抽取(CRE)的原则在于适应不断涌现的新关系,同时保留旧知识。尽管当前CRE的研究在保留旧知识方面取得了成功,但在面对受污染的数据流时往往表现不佳。我们认为这归因于它们依赖一个人为假设,即数据流不存在标注错误,这阻碍了CRE在真实世界中的应用。考虑到真实数据集中噪声标签的普遍性,本文形式化了一种更实用的学习场景,称为噪声持续关系抽取(noisy-CRE)。在此具有挑战性的设定下,我们提出了一种抗噪声对比框架,称为对比学习中的噪声引导攻击(NaCL),用于学习增量式的 corrupted 关系。与直接丢弃噪声或不可获取的噪声重标注相比,我们提出通过攻击修改特征空间以匹配给定的噪声标签,能够更好地丰富对比表示。大量实证验证表明,随着噪声率的提高,NaCL能实现一致的性能提升,优于最先进的基线方法。

关键词

引用

@article{arxiv.2305.07085,
  title  = {Enhancing Contrastive Learning with Noise-Guided Attack: Towards Continual Relation Extraction in the Wild},
  author = {Ting Wu and Jingyi Liu and Rui Zheng and Qi Zhang and Tao Gui and Xuanjing Huang},
  journal= {arXiv preprint arXiv:2305.07085},
  year   = {2023}
}