自监督方法在跨域少样本学习中的表现如何?
计算机视觉与模式识别
2025-01-28 v2
摘要
跨域少样本学习(CDFSL)在计算机视觉领域仍是一个很大程度上未解决的问题,而自监督学习提供了一种有前景的方案。两种学习方法都试图减轻深度网络对大规模标注数据需求的依赖。尽管自监督方法近来取得巨大进展,但其在CDFSL上的效用相对未被探索。本文通过对现有方法的透彻评估,研究自监督表示学习在CDFSL语境下的作用。令人惊讶的是,即使使用浅层架构或小型训练数据集,自监督方法也能与现有SOTA方法表现相当甚至更优。然而,没有单一自监督方法在所有数据集上占优,表明现有自监督方法并非普遍适用。此外,我们发现自监督方法提取的表示比监督方法表现出更强的鲁棒性。有趣的是,自监督表示在源域上表现好坏与其在目标域上的适用性关联甚微。作为研究的一部分,我们对六类代表性分类器进行了客观性能度量。结果表明原型分类器(Prototypical Classifier)可作为CDFSL的标准评估方案。
引用
@article{arxiv.2202.09014,
title = {How Well Do Self-Supervised Methods Perform in Cross-Domain Few-Shot Learning?},
author = {Yiyi Zhang and Ying Zheng and Xiaogang Xu and Jun Wang},
journal= {arXiv preprint arXiv:2202.09014},
year = {2025}
}