少样本微调即满足无源域适应所需的一切
计算机视觉与模式识别
2023-04-25 v2 机器学习
摘要
近来，无源无监督域适应（SFUDA）作为一种比无监督域适应（UDA）更实用、更可行的方法而出现，后者假设带标签的源数据始终可获取。然而，SFUDA 方法的显著局限常被忽视，这限制了其在真实应用中的实用性。这些局限包括缺乏确定最优超参数的原则性方法，以及当无标签目标数据未能满足某些要求（如闭集且与源数据标签分布相同）时性能下降。所有这些局限均源于 SFUDA 完全依赖无标签目标数据这一事实。我们从经验上展示了现有 SFUDA 方法在真实场景中的局限，包括目标数据中的分布外与标签分布偏移，并验证这些方法均无法安全应用于真实设置。基于实验结果，我们主张用少量带标签数据（如 1-shot 或 3-shot）微调源预训练模型，是规避 SFUDA 局限的实用且可靠方案。与普遍看法相反，我们发现精心微调的模型即便仅用极少带标签数据训练也不会过拟合，且因采样偏差引起的性能变化很小。我们在多个域适应基准上的实验结果表明，少样本微调方法在标准 SFUDA 设置下表现相当，并在真实场景中优于对比方法。我们的代码见 https://github.com/daintlab/fewshot-SFDA。
引用
@article{arxiv.2304.00792,
title = {Few-shot Fine-tuning is All You Need for Source-free Domain Adaptation},
author = {Suho Lee and Seungwon Seo and Jihyo Kim and Yejin Lee and Sangheum Hwang},
journal= {arXiv preprint arXiv:2304.00792},
year = {2023}
}
备注
The first two authors contributed equally