Few-shot 分类作为多实例验证：有效的 Backbone-agnostic Transfer跨域
摘要
我们探讨了在 backbone（即特征提取器）不可行或不可行的约束下进行的跨域 few-shot 学习——这是一种日益常见的实际应用场景。处理来自冻结、“黑盒”backbone产生的低质量和静态 embeddings 导致了将 few-shot 分类表示为一系列多个实例验证（MIV）任务的问题。 Inspired by this representation，我们引入一种新颖的 few-shot domain adaptation 方法，称为“MIV-head”，类似于一个对任何预训练 backbone 均不依赖的分类 head，且计算效率高。当在来自目标 domain 的 few-shot 数据上训练时，我们设计的 MIV-head 的核心组件共同为来自该 domain 测试数据的强大性能提供了可能。重要的是，它无需微调 backbone，且在“meta-testing”阶段即可实现。我们在各种设置下并在 Meta-dataset benchmark 的一个扩展版本上进行实验，用于跨域 few-shot 图像分类，使用代表性的 off-the-shelf convolutional neural network 和 vision transformer backbone 预训练于 ImageNet1K，结果表明 MIV-head 在准确率上与 state-of-the-art“adapter”（或部分微调）方法在相同 backbone 上应用的表现高度竞争，同时适应成本大幅降低。我们也发现众所周知的“分类 head”方法在准确率上远远落后于 MIV-head。通过实证研究证实了我们方法的核心组件。我们在 https://github.com/xxweka/MIV-head 分享了我们的 code。
引用
@article{arxiv.2507.00401,
title = {Few-shot Classification as Multi-instance Verification: Effective Backbone-agnostic Transfer across Domains},
author = {Xin Xu and Eibe Frank and Geoffrey Holmes},
journal= {arXiv preprint arXiv:2507.00401},
year = {2025}
}