通过噪声增强监督自编码器提升跨域少样本学习的泛化能力
计算机视觉与模式识别
2021-09-24 v2 机器学习
摘要
当前最先进(SOTA)的少样本学习(FSL)方法在源数据集与目标数据集之间存在域差异时,性能会出现显著下降。在源数据集上较强的判别能力并不必然转化为目标数据集上的高分类准确率。在本工作中,我们通过提升模型的泛化能力来解决这一跨域少样本学习(CDFSL)问题。具体而言,我们利用一种新颖的噪声增强监督自编码器(NSAE)教导模型捕捉特征分布更广泛的变异。NSAE通过联合重建输入以及预测输入及其重建对的标签来训练模型。基于组内相关系数(ICC)的理论分析表明,从NSAE学习到的特征嵌入在目标域中具有更强的判别与泛化能力。我们还利用NSAE的结构,提出了一种两步微调流程,实现了更好的自适应并提升了目标域中的分类性能。我们进行了大量实验与消融研究以证明所提方法的有效性。实验结果表明,在各种条件下我们提出的方法始终优于SOTA方法。
引用
@article{arxiv.2108.05028,
title = {Boosting the Generalization Capability in Cross-Domain Few-shot Learning via Noise-enhanced Supervised Autoencoder},
author = {Hanwen Liang and Qiong Zhang and Peng Dai and Juwei Lu},
journal= {arXiv preprint arXiv:2108.05028},
year = {2021}
}
备注
Accepted at ICCV2021