用于无监督域适应的参数参考损失
计算机视觉与模式识别
2018-01-01 v2 人工智能
摘要
深度学习在计算机视觉中的成功主要归功于丰富的数据。然而，收集大规模数据并非总是可行，尤其是监督标签方面。无监督域适应（UDA）旨在利用源域的带标签数据来学习一个可泛化到无标签目标域数据的模型。大量现有工作使用基于连体网络的模型，其中两个神经网络流分别处理源域和目标域数据。然而，这些方法大多聚焦于最小化域差异，忽视了保持目标域特征判别能力的重要性。UDA 研究中另一个重要问题是如何恰当评估方法。常见的评估流程需要目标域标签来进行超参数调优和模型选择，这与 UDA 任务的定义相矛盾。因此我们提出一种更合理的评估原则，通过直接采用模型的最新快照进行评估来避免该矛盾。这为主性能标准之外对 UDA 方法提出了额外要求：训练期间的稳定性。我们设计了一种新方法，通过参数参考损失（PRL）将目标域流连接到源域流，以同时解决这些问题。在多个数据集上的实验表明，所提出的 PRL 不仅提升了目标域上的性能，还稳定了训练过程。因此，基于 PRL 的模型不需要矛盾的模型选择，从而更适用于实际应用。
引用
@article{arxiv.1711.07170,
title = {Parameter Reference Loss for Unsupervised Domain Adaptation},
author = {Jiren Jin and Richard G. Calland and Takeru Miyato and Brian K. Vogel and Hideki Nakayama},
journal= {arXiv preprint arXiv:1711.07170},
year = {2018}
}
备注
Add experiments that compare parameter reference loss with existing methods using the same architecture