ME-D2N：用于跨域少样本学习的多专家域分解网络
计算机视觉与模式识别
2022-10-12 v1
摘要
近年来，旨在解决跨不同域的少样本学习（FSL）问题的跨域少样本学习（CD-FSL）引起了越来越多的关注。CD-FSL 的核心挑战在于源数据集与新目标数据集之间的域差距。尽管在没有目标数据的情况下为 CD-FSL 做了许多尝试，但巨大的域差距使得现有的 CD-FSL 方法仍然难以取得令人非常满意的结果。另外，在之前的工作~\cite{fu2021meta} 中，提倡使用少量带标签的目标域数据来学习 CD-FSL 模型，这更现实且更有前景。因此，在本文中，我们坚持这一设定，并在技术上提出了一个新颖的多专家域分解网络（ME-D2N）。具体来说，为了解决具有充足样本的源数据和具有有限样本的辅助目标数据之间的数据不平衡问题，我们在多专家学习的框架下构建了我们的模型。首先在源集和辅助目标集上分别训练两个教师模型，它们可以被视为各自领域的专家。然后，引入知识蒸馏技术将知识从两个教师模型转移到一个统一的学生模型中。进一步地，为了帮助我们的学生模型同时从不同域的教师那里学习知识，我们进一步提出了一个新颖的域分解模块，该模块学习将学生模型分解为两个与域相关的子部分。这是通过一个新颖的特定域门实现的，该门学习以可学习的方式将每个滤波器仅分配给一个特定域。大量实验证明了我们方法的有效性。代码和模型可在 https://github.com/lovelyqian/ME-D2N_for_CDFSL 获取。
引用
@article{arxiv.2210.05280,
title = {ME-D2N: Multi-Expert Domain Decompositional Network for Cross-Domain Few-Shot Learning},
author = {Yuqian Fu and Yu Xie and Yanwei Fu and Jingjing Chen and Yu-Gang Jiang},
journal= {arXiv preprint arXiv:2210.05280},
year = {2022}
}
备注
Accepted by ACM Multimedia 2022