ReFine：微调前再随机化用于跨域少样本学习
计算机视觉与模式识别
2022-09-20 v3
摘要
跨域少样本学习（CD-FSL）中，源域与目标域差异极大且目标样本极少，近来受到广泛关注。近期关于 CD-FSL 的研究普遍聚焦于基于迁移学习的方法，即先在流行的带标签源域数据集上预训练神经网络，再迁移到目标域数据。尽管带标签数据集可为目标数据提供合适的初始参数，但源域与目标域之间的域差异可能阻碍在目标域上的微调。本文提出一种简单而有效的方法，在适配目标数据之前对源域上拟合的参数进行再随机化。该再随机化重置了源预训练模型中源特定的参数，从而有助于在目标域上微调，提升少样本性能。
引用
@article{arxiv.2205.05282,
title = {ReFine: Re-randomization before Fine-tuning for Cross-domain Few-shot Learning},
author = {Jaehoon Oh and Sungnyun Kim and Namgyu Ho and Jin-Hwa Kim and Hwanjun Song and Se-Young Yun},
journal= {arXiv preprint arXiv:2205.05282},
year = {2022}
}
备注
CIKM 2022 Short; 5 pages, 3 figures, 4 tables