基于能量模型约束自训练无监督域适应中的伪标签
计算机视觉与模式识别
2022-08-30 v1 人工智能
机器学习
图像与视频处理
信号处理
摘要
深度学习通常面临数据匮乏问题，无监督域适应(UDA)被提出以将标注源域中的知识引入未标注目标域。近来，深度自训练为UDA提供了强有力的手段，其包含预测目标域并将置信预测作为硬伪标签用于再训练的迭代过程。然而，伪标签通常不可靠，从而容易因错误传播而导致偏离的解。本文中，我们借助能量模型，并以能量函数最小化目标来约束未标注目标样本的训练。这可通过简单的附加正则化或基于能量的损失实现。该框架使我们能够获得能量模型的好处，同时以即插即用的方式保持强大的判别性能。我们研究了其收敛性质及其与分类期望最小化的联系。我们在最流行且大规模的图像分类与语义分割UDA基准上进行了大量实验，以证明其通用性与有效性。
引用
@article{arxiv.2208.12885,
title = {Constraining Pseudo-label in Self-training Unsupervised Domain Adaptation with Energy-based Model},
author = {Lingsheng Kong and Bo Hu and Xiongchang Liu and Jun Lu and Jane You and Xiaofeng Liu},
journal= {arXiv preprint arXiv:2208.12885},
year = {2022}
}
备注
International Journal of Intelligent Systems. arXiv admin note: substantial text overlap with arXiv:2101.00316