真实场景下的渐进式域适应：当中间分布缺失时
机器学习
2021-07-14 v2 人工智能
摘要
我们关注域适应问题，其目标是将模型向目标分布偏移，而非学习域不变表示。已有研究表明，在以下两个假设下：(a) 可获取来自中间分布的样本，以及 (b) 样本标注有相对于源分布的变化量，自训练可成功应用于逐渐偏移的样本以将模型适应至目标分布。我们假设仅具备 (a) 就足以通过利用隐式课程来启用迭代自训练，从而缓慢地将模型适应至目标分布。在 (a) 不成立的情况下，我们观察到迭代自训练表现不足。我们提出 GIFT，一种通过插值源域和目标域样本表示来创建中间分布虚拟样本的方法。我们在具有自然分布偏移的数据集上评估了一种迭代自训练方法，并表明当应用于其他域适应方法之上时，它提升了模型在目标数据集上的性能。我们在一个合成数据集上进行分析，表明在 (a) 存在时迭代自训练自然形成样本的课程。此外，我们表明当 (a) 不成立时，GIFT 优于迭代自训练。
引用
@article{arxiv.2106.06080,
title = {Gradual Domain Adaptation in the Wild:When Intermediate Distributions are Absent},
author = {Samira Abnar and Rianne van den Berg and Golnaz Ghiasi and Mostafa Dehghani and Nal Kalchbrenner and Hanie Sedghi},
journal= {arXiv preprint arXiv:2106.06080},
year = {2021}
}