面向跨域少样本分类的跨层级蒸馏与特征去噪
计算机视觉与模式识别
2023-11-07 v1 人工智能
摘要
传统的少样本分类旨在大规模有标签基数据集上学习模型，并快速适配到与基数据集同分布的目标数据集。然而在实践中，少样本分类的基数据集与目标数据集通常来自不同域，此即跨域少样本分类问题。我们通过使目标域中一小部分无标签图像在训练阶段可用来应对该问题。在此设定下，即便基数据充足且有标签，巨大的域偏移仍使得从基数据集迁移知识十分困难。我们精心设计了跨层级知识蒸馏方法，通过引导网络浅层学习更高层信息，增强模型在目标数据集中提取更具判别性特征的能力。此外，为缓解评估阶段的过拟合，我们提出特征去噪操作，可降低特征冗余并减轻过拟合。我们的方法在 BSCD-FSL 基准上平均分别超越先前最优方法 Dynamic-Distillation 在 1-shot 与 5-shot 分类任务上 5.44% 与 1.37%。实现代码将发布于 https://github.com/jarucezh/cldfd。
引用
@article{arxiv.2311.02392,
title = {Cross-Level Distillation and Feature Denoising for Cross-Domain Few-Shot Classification},
author = {Hao Zheng and Runqi Wang and Jianzhuang Liu and Asako Kanezaki},
journal= {arXiv preprint arXiv:2311.02392},
year = {2023}
}