中文

用于跨域少样本学习的判别性样本引导与参数高效特征空间自适应

计算机视觉与模式识别 2024-04-04 v3

摘要

本文研究了跨域少样本分类问题,该任务旨在利用少量标记样本在先前未见过的域中学习新类别。现有方法虽然具有一定效果,但仍存在若干局限性,我们通过两项重大改进予以缓解。首先,我们引入了一种轻量级的参数高效自适应策略,以解决在小数据集上微调大量参数所导致的过拟合问题。该策略采用预训练特征的线性变换,显著减少了可训练参数的数量。其次,我们用判别性样本感知损失函数替代了传统的最近质心分类器,增强了模型对训练集内类间和类方差的敏感性,从而改善了特征空间中的聚类效果。在 Meta-Dataset 基准上的实证评估表明,我们的方法不仅在先前见过和未见过的数据集上分别将准确率提高了高达 7.7% 和 5.3%,而且在实现上述性能的同时,其参数效率至少比现有方法高 3×\sim3\times,确立了跨域少样本学习的新最先进水平 (state-of-the-art)。我们的代码可在 https://github.com/rashindrie/DIPA 获取。

关键词

引用

@article{arxiv.2403.04492,
  title  = {Discriminative Sample-Guided and Parameter-Efficient Feature Space Adaptation for Cross-Domain Few-Shot Learning},
  author = {Rashindrie Perera and Saman Halgamuge},
  journal= {arXiv preprint arXiv:2403.04492},
  year   = {2024}
}

备注

Code is available at this link: https://github.com/rashindrie/DIPA