tSF：基于 Transformer 的少样本学习语义滤波器
计算机视觉与模式识别
2024-07-18 v2
摘要
少样本学习（FSL）通过在大量已见（基）样本与少量未见（新）标注样本间嵌入具有判别性的目标感知特征，缓解数据匮乏难题。近期 FSL 方法中多数特征嵌入模块专为相应学习任务（如分类、分割与目标检测）设计，限制了嵌入特征的效用。为此，我们提出一个名为基于 Transformer 的语义滤波器（tSF）的轻量通用模块，可应用于不同 FSL 任务。所提 tSF 通过语义滤波器重新设计基于 Transformer 结构的输入，不仅将整个基集的知识嵌入新集，还为目标类别过滤语义特征。此外，tSF 的参数仅为标准 Transformer 块的一半（少于 1M）。实验中，我们的 tSF 能提升不同经典少样本学习任务的表现（约 2% 提升），尤其在少样本分类任务的多个基准数据集上优于现有最优方法。
引用
@article{arxiv.2211.00868,
title = {tSF: Transformer-based Semantic Filter for Few-Shot Learning},
author = {Jinxiang Lai and Siqian Yang and Wenlong Liu and Yi Zeng and Zhongyi Huang and Wenlong Wu and Jun Liu and Bin-Bin Gao and Chengjie Wang},
journal= {arXiv preprint arXiv:2211.00868},
year = {2024}
}