用于跨域少样本学习的特征提取器堆叠
计算机视觉与模式识别
2023-10-26 v4 机器学习
摘要
跨域少样本学习（CDFSL）解决需要将知识从一个或多个源域迁移到分布明显不同且实例稀缺的目标域的学习问题。最近发表的 CDFSL 方法通常构建一个通用模型，将多个源域的知识组合进一个特征提取器中。这实现了高效推理，但每当加入新源域时都必须重新计算提取器。其中一些方法也与异构源域提取器架构不兼容。我们提出特征提取器堆叠（FES），一种组合来自一组提取器信息的新 CDFSL 方法，它可以开箱即用利用异构预训练提取器，且不维护一个在其提取器集合更新时需要重新计算的通用模型。我们给出受经典堆叠泛化方法启发的基础 FES 算法，并引入两个变体：卷积 FES（ConFES）和正则化 FES（ReFES）。给定目标域任务，这些算法独立微调每个提取器，使用交叉验证从支持集中提取用于堆叠泛化的训练数据，并从中学习一个简单的线性堆叠分类器。我们在著名的 Meta-Dataset 基准上评估我们的 FES 方法，针对使用卷积神经网络的图像分类，并展示它们可以达到最先进的性能。
引用
@article{arxiv.2205.05831,
title = {Feature Extractor Stacking for Cross-domain Few-shot Learning},
author = {Hongyu Wang and Eibe Frank and Bernhard Pfahringer and Michael Mayo and Geoffrey Holmes},
journal= {arXiv preprint arXiv:2205.05831},
year = {2023}
}