基于条件分布匹配与广义标签偏移的领域自适应
机器学习
2020-12-15 v3 人工智能
机器学习
摘要
对抗学习通过学域不变表示，在无监督领域自适应设置中展现了良好性能。然而，近期工作表明当源域和目标域的标签分布不同时，该方法存在局限性。在本文中，我们提出一个新假设——广义标签偏移（generalized label shift, GLS），以提升对不匹配标签分布的鲁棒性。GLS 指出，在给定标签的条件下，存在一种输入表示在源域和目标域之间是不变的。在 GLS 下，我们为任意分类器的迁移性能提供理论保证。我们还利用域间相对类权重的估计和适当的样本重加权，推导出 GLS 成立的充分必要条件。我们的权重估计方法可以直接且通用地应用于现有学习域不变表示的领域自适应（DA）算法中，且计算开销很小。特别地，我们修改了三种 DA 算法——JAN、DANN 和 CDAN，并在标准及人工 DA 任务上评估它们的性能。我们的算法优于基础版本，在标签分布高度不匹配时改进尤为显著。我们的代码可在 https://tinyurl.com/y585xt6j 获取。
引用
@article{arxiv.2003.04475,
title = {Domain Adaptation with Conditional Distribution Matching and Generalized Label Shift},
author = {Remi Tachet and Han Zhao and Yu-Xiang Wang and Geoff Gordon},
journal= {arXiv preprint arXiv:2003.04475},
year = {2020}
}
备注
Appeared in NeurIPS 2020