中文

TPN:面向少样本文档级关系抽取的可迁移原型学习网络

计算与语言 2024-10-02 v1 信息检索

摘要

少样本文档级关系抽取由于NOTA(无对应关系)关系表示的跨域可迁移性差而性能不佳。本文中,我们引入了一个可迁移原型学习网络(TPN)来解决这一难题。它包含三个核心组件:混合编码器结合注意力信息对输入文本的语义内容进行分层编码,以增强关系表示。作为一个用于域外(OOD)检测的即插即用模块,可迁移原型学习器通过一个自适应可学习块计算NOTA原型,有效缓解了不同域间的NOTA偏差。动态权重校准器检测关系特定的分类置信度,作为动态权重来校准以NOTA为主导的损失函数。最后,为了增强模型的跨域性能,我们辅以虚拟对抗训练(VAT)。我们在FREDo和ReFREDo上进行了广泛的实验分析,证明了TPN的优越性。与最先进的方法相比,我们的方法在参数规模大约减半的情况下取得了有竞争力的性能。数据和代码可在https://github.com/EchoDreamer/TPN获取。

关键词

引用

@article{arxiv.2410.00412,
  title  = {TPN: Transferable Proto-Learning Network towards Few-shot Document-Level Relation Extraction},
  author = {Yu Zhang and Zhao Kang},
  journal= {arXiv preprint arXiv:2410.00412},
  year   = {2024}
}

备注

Few shot document-level relation extraction