论干扰项在少样本分类中的重要性

少样本分类旨在仅从少量(通常 1 到 5 个)标注样本学习来对新颖任务的类别进行分类。一种有效的少样本分类方法涉及在大数据样本基域上训练的先验模型，然后在新颖少样本任务上微调以产生可泛化表示。然而，由于缺少足够训练样本，任务特定微调容易过拟合。为缓解此问题，我们提出了一种基于对比学习的新微调方法，以干扰项形式重用基域中无标注样本。与先前工作所用无标注数据性质不同，干扰项属于不与新颖类别重叠的类别。我们首次证明，此类干扰项的引入能显著提升少样本泛化能力。我们的技术新颖性包括：在少样本任务中共享同类的样本随机配对，以及控制任务特定负样本与干扰项相对影响的加权项。我们微调目标的一个重要方面是其对干扰项标签不可知，因此适用于各种基域设置。与最先进方法相比，我们的方法在跨域设置中准确率提升达 $12\%$，在无监督先验学习设置中达 $5\%$。