Contradistinguisher:一种遵循Vapnik准则的无监督域适应方法
机器学习
2021-04-14 v3 机器学习
摘要
监督与无监督学习的复杂结合被认为是人类跨多个域或任务无缝执行任务的关键。这种跨域学习现象在域适应文献中已被充分研究。近期的域适应工作依赖于一种间接方式:先对齐源域与目标域分布,再在带标签源域上训练分类器以分类目标域。然而,该方法的主要缺陷在于,获得近乎完美的域对齐本身可能困难或不可能(例如语言域)。为此,我们遵循Vapnik统计学习准则,即任何所需问题应以最直接方式求解,而非求解更通用的中间任务,并提出一种无需域对齐的域适应直接方法。我们提出称为Contradistinguisher的模型,其学习对比特征,目标是联合以无监督方式学习对未标记目标域进行反区分(contradistinguish),并以监督方式在源域上分类。我们在Office-31与VisDA-2017数据集上于单源与多源设定均取得SOTA。我们还注意到,反区分损失通过增加形状偏置提升了模型性能。
引用
@article{arxiv.2005.14007,
title = {Contradistinguisher: A Vapnik's Imperative to Unsupervised Domain Adaptation},
author = {Sourabh Balgi and Ambedkar Dukkipati},
journal= {arXiv preprint arXiv:2005.14007},
year = {2021}
}
备注
18 pages. arXiv admin note: text overlap with arXiv:1909.03442