无源数据的域适应
计算机视觉与模式识别
2021-08-31 v4 机器学习
图像与视频处理
摘要
域适应假设训练阶段可自由访问源域和目标域的样本。然而，这种假设在现实世界中很少成立，并可能引发数据隐私问题，尤其当源域标签可能是作为标识符的敏感属性时。为避免访问可能包含敏感信息的源数据，我们引入了无源数据域适应 (SFDA)。其核心思想是利用源域的预训练模型，以自学习方式逐步更新目标模型。我们观察到，由预训练源模型测量的自熵较低的目标样本更可能被正确分类。据此，我们依据自熵准则选择可靠样本，并将其定义为类别原型。然后，基于与类别原型的相似度得分，为每个目标样本分配伪标签。此外，为减少伪标签过程中的不确定性，我们提出了无需任何可调超参数的基于集合到集合距离的过滤方法。最后，我们使用经过滤的伪标签，并结合预训练源模型的正则化来训练目标模型。令人惊讶的是，在不直接使用带标签源样本的情况下，我们的 PrDA 在基准数据集上优于传统的域适应方法。代码已公开于 https://github.com/youngryan1993/SFDA-SourceFreeDA。
引用
@article{arxiv.2007.01524,
title = {Domain Adaptation without Source Data},
author = {Youngeun Kim and Donghyeon Cho and Kyeongtak Han and Priyadarshini Panda and Sungeun Hong},
journal= {arXiv preprint arXiv:2007.01524},
year = {2021}
}
备注
13 pages