利用适配器中的归一化层结合渐进学习与自适应蒸馏进行跨域少样本学习

跨域少样本学习提出了严峻挑战，因为模型必须在基类上进行训练，然后仅在少量样本可用的情况下，在来自不同域的新类上进行测试。虽然先前的方法主要集中于使用适配器的参数高效方法，但它们往往忽略了两个关键问题：由域差异变化引起的批量统计偏移和噪声样本统计。在本文中，我们引入了一个新颖的通用框架，该框架利用带有渐进学习与自适应蒸馏（ProLAD）的适配器中的归一化层，标志着两项主要贡献。首先，我们的方法利用两个独立的适配器：一个不含归一化层，对相似域更有效；另一个嵌入归一化层，旨在利用目标域的批量统计，从而对不相似域有效。其次，为解决噪声统计的缺陷，我们部署了两种策略：两个适配器的渐进式训练，以及源自仅由不含归一化层的适配器确定的特征的自适应蒸馏技术。通过这种自适应蒸馏，我们的方法充当调节器，基于每个域控制用于适应的主适配器。在标准跨域少样本学习基准上的评估证实，我们的技术优于现有的最先进方法。