基于交叉注意力原型网络与对比学习的不一致少样本关系分类
机器学习
2021-10-19 v1 计算与语言
摘要
标准少样本关系分类(RC)旨在仅用每类少量标注数据学习一个鲁棒分类器。然而,以往工作很少研究训练与测试期间类别数(即 -way)和每类标注数据数(即 -shot)不同所造成的影响。在本文中,我们定义了一项新任务,即不一致少样本 RC,其中模型需要处理训练与测试之间 和 的不一致性。为解决该新任务,我们提出基于原型网络的交叉注意力对比学习(ProtoCACL),以捕捉支持集与查询集之间丰富的相互交互。实验结果表明,在不一致 和不一致 设定下,我们的 ProtoCACL 均能优于最先进的基线模型,这归功于其更鲁棒且更具判别性的表示。此外,我们发现在不一致少样本学习设定中,通过精心选择的 和 ,模型可以用比标准少样本设定更少的训练数据取得更好的性能。在文末,我们提供了进一步的分析与建议,以在不同场景下系统性地指导 和 的选择。
引用
@article{arxiv.2110.08254,
title = {Inconsistent Few-Shot Relation Classification via Cross-Attentional Prototype Networks with Contrastive Learning},
author = {Hongru Wang and Zhijing Jin and Jiarun Cao and Gabriel Pui Cheong Fung and Kam-Fai Wong},
journal= {arXiv preprint arXiv:2110.08254},
year = {2021}
}