隐协变量偏移：域自适应的极小假设
机器学习
2019-07-30 v1 机器学习
摘要
无监督域自适应旨在源域上利用标注数据学习模型，以在目标域的未标注数据上表现良好。当前方法聚焦于学习域不变表示，其依赖于此类表示适于在目标域学习监督任务的假设。我们反而认为，进行域自适应的更好且极小的假设是隐协变量偏移（Hidden Covariate Shift）假说。该方法在于学习数据的这样一种表示：在此表示条件下，标签分布是域不变的。由隐协变量偏移假设，我们导出一种优化过程，学习匹配目标域上估计的联合分布与源域上重新加权的联合分布。重新加权在表示空间中完成，并在优化过程中学习。我们在合成数据与真实世界数据上表明，我们的方法同时应对目标偏移（Target Shift）与概念漂移（Concept Drift）。我们在Amazon Reviews数据集上报告了最先进的性能，证明了该方法的可行性。
引用
@article{arxiv.1907.12299,
title = {Hidden Covariate Shift: A Minimal Assumption For Domain Adaptation},
author = {Victor Bouvier and Philippe Very and Céline Hudelot and Clément Chastagnol},
journal= {arXiv preprint arXiv:1907.12299},
year = {2019}
}