BaseTransformers:基于基数据点注意力的单样本学习
计算机视觉与模式识别
2022-10-07 v1 人工智能
机器学习
摘要
少样本分类旨在仅使用每类有限样本来学习识别新类别。当前大多数少样本方法使用富含标注样本的基数据集来训练编码器,以获取新类支撑样本的表示。由于测试样本来自与基分布不同的分布,其特征表示质量较差,导致性能下降。本文中我们提出利用最接近每个支撑样本的基数据集的已训练良好特征表示,在元测试时改进其表示。为此,我们提出BaseTransformers,它关注基数据集特征空间中最相关的区域并改进支撑样本表示。在三个基准数据集上的实验表明,我们的方法对多种骨干网络均表现良好,并在归纳式单样本设定下取得了最先进的结果。代码见 github.com/mayug/BaseTransformers
引用
@article{arxiv.2210.02476,
title = {BaseTransformers: Attention over base data-points for One Shot Learning},
author = {Mayug Maniparambil and Kevin McGuinness and Noel O'Connor},
journal= {arXiv preprint arXiv:2210.02476},
year = {2022}
}
备注
Paper accepted at British Machine Vision Conference 2022