使预训练语言模型成为更好的持续小样本关系抽取器

持续小样本关系抽取（CFRE）是一个实际问题，要求模型在少量标注训练数据下持续学习新关系，同时避免遗忘旧关系。主要挑战是灾难性遗忘和过拟合。本文利用提示学习探索预训练语言模型的隐式能力来应对上述两个挑战，从而使语言模型成为更好的持续小样本关系抽取器。具体来说，我们提出了一种对比提示学习框架，该框架设计提示表示以获取更通用的知识，从而易于适应新旧类别，并采用基于边界的对比学习来更关注困难样本，从而缓解灾难性遗忘和过拟合问题。为进一步缓解低资源场景下的过拟合，我们引入了一种有效的记忆增强策略，利用精心设计的提示引导ChatGPT生成多样化的样本。大量实验表明，我们的方法以较大优势优于最先进方法，并在低资源场景下显著缓解了灾难性遗忘和过拟合。