中文

通过注意力特征正则化提升 Few-Shot Learning

计算机视觉与模式识别 2024-03-27 v1

摘要

基于流形正则化的 Few-shot learning (FSL) 旨在通过以混合因子混合来自不同类别的两个样本,提升在有限训练样本下对新物体的识别能力。然而,这种混合操作由于线性插值以及忽略特定通道的重要性,削弱了特征表示。为解决这些问题,本文提出了注意力特征正则化(Attentive Feature Regularization, AFR),旨在提高特征的表示能力与判别能力。在我们的方法中,首先计算不同类别语义标签之间的关系,以挑选出用于正则化的相关特征。然后,我们在实例级和通道级设计了两种基于注意力的计算。这些计算使得正则化过程能够关注两个关键方面:通过相关类别中的自适应插值实现特征互补,以及对特定特征通道的强调。最后,我们将这些正则化策略结合起来,显著提升了分类器的性能。在几个流行的 FSL 基准上的实验研究证明了 AFR 的有效性,它无需重新训练任何特征提取器即可提高新类别的识别准确率,尤其是在 1-shot 设置下。此外,所提出的 AFR 可以无缝集成到其他 FSL 方法中以提高分类性能。

关键词

引用

@article{arxiv.2403.17025,
  title  = {Boosting Few-Shot Learning via Attentive Feature Regularization},
  author = {Xingyu Zhu and Shuo Wang and Jinda Lu and Yanbin Hao and Haifeng Liu and Xiangnan He},
  journal= {arXiv preprint arXiv:2403.17025},
  year   = {2024}
}

备注

Accepted to AAAI 2024