面向少样本无监督域适应的持久且高效元提示学习框架 E2MPL
计算机视觉与模式识别
2025-06-16 v2
摘要
少样本无监督域适应 (FS-UDA) 利用来自源域的有限标注数据，以实现对未标记目标域中准确分类。尽管近期取得了进展，当前的FS-UDA方法仍面临主要挑战：模型在适应新的FS-UDA任务时常常不稳定，且需要相当大的投入时间。为此，我们提出一种名为 Enduring and Efficient Meta-Prompt Learning (E2MPL) 的新颖框架，用于FS-UDA。在该框架中，我们利用预训练的 CLIP 模型作为特征学习的主干。首先，我们设计域共享提示符，包含虚拟标记，主要从广泛的元任务中捕获元知识，以缓解域间差距。其次，我们开发了任务提示学习网络，以适应性方式学习任务特定的特定提示，以实现快速且稳定的任务泛化。最后，我们将元提示学习过程形式化为双层优化问题，包含(外层)元提示学习者和(内层)任务特定分类器及域适配器。此外，每个元任务的内目标具有闭式解，从而实现高效的提示学习和针对新任务的单步适应。大量实验表明，我们的框架在域适应基准数据集 DomainNet 上表现突出。与最新方法相比，在5-way 1-shot任务中，我们的方法平均准确率提高了至少15.4%，时间缩短了68.5%；在5-way 5-shot任务中，准确率提高了8.7%，时间缩短了74.1%。此外，我们的方法在3600个测试任务中的持久性能优于其他方法，即在跨任务稳定性方面表现更佳。
引用
@article{arxiv.2407.04066,
title = {E2MPL:An Enduring and Efficient Meta Prompt Learning Framework for Few-shot Unsupervised Domain Adaptation},
author = {Wanqi Yang and Haoran Wang and Lei Wang and Ge Song and Ming Yang and Yang Gao},
journal= {arXiv preprint arXiv:2407.04066},
year = {2025}
}