面向半监督域适应的源自编码语义正则化学习
计算机视觉与模式识别
2025-01-03 v1
摘要
半监督域适应（SSDA）因能够利用目标域中少量标记数据来提高模型的分类性能和泛化能力而受到广泛研究。然而，现有方法无法有效适应目标域，由于难以完全学习目标语义信息及其复杂关系。本文提出一种新型SSDA学习框架，称为语义正则化学习（SERL），通过多角度的正则化学习来捕获目标语义信息，以实现对源预训练模型在目标域上的自适应微调。SERL包括三个稳健的语义正则化技术。首先，语义概率对比正则化（SPCR）帮助模型从概率角度学习更具判别力的特征表示，使用目标域的语义信息来理解样本之间的相似性和差异性。此外，SPCR中的自适应权重有助于通过不同样本的概率来正确学习语义分布。为进一步全面理解目标语义分布，我们引入硬样本混合正则化（HMR），该方法以易样本为指导，挖掘硬样本中包含的潜在目标知识，从而学习更完整和更复杂的目标语义知识。最后，目标预测正则化（TPR）通过最大化当前预测与过去学习的目标之间的相关性来正则化模型的目标预测，从而减轻由错误伪标签导致的语义信息误导。在三个基准数据集上的大量实验表明，我们的SERL方法实现了状态突破（SOTA）性能。
引用
@article{arxiv.2501.01126,
title = {Source-free Semantic Regularization Learning for Semi-supervised Domain Adaptation},
author = {Xinyang Huang and Chuang Zhu and Ruiying Ren and Shengjie Liu and Tiejun Huang},
journal= {arXiv preprint arXiv:2501.01126},
year = {2025}
}