用于主动域适应的随机对抗梯度嵌入方法
机器学习
2020-12-04 v1
摘要
无监督域适应（UDA）旨在弥合源域（有标注数据可用）与目标域（仅由无标注数据表示）之间的差距。尽管域不变表示已显著提升了模型的适应性，但保证其良好可迁移性仍是一个挑战性问题。本文通过主动学习标注少量目标数据预算来解决该问题。尽管这种称为主动域适应（ADA）的设置偏离了UDA的标准设定，但大量实际应用面临此情形。为此，我们引入了随机对抗梯度嵌入（SAGE），一个对ADA作出三重贡献的框架。首先，我们通过度量标注前后可迁移性损失梯度的变化，筛选可能改善表示可迁移性的目标样本进行标注。其次，我们通过促进不同梯度方向来增加采样多样性。第三，我们引入了一种新颖的训练流程，用于在学些不变表示时主动融入目标样本。SAGE基于坚实的理论基础，并在多个UDA基准上针对若干基线进行了验证。我们的实证研究表明，SAGE兼具不确定性采样与多样性采样之长，并大幅提升了表示的可迁移性。
引用
@article{arxiv.2012.01843,
title = {Stochastic Adversarial Gradient Embedding for Active Domain Adaptation},
author = {Victor Bouvier and Philippe Very and Clément Chastagnol and Myriam Tami and Céline Hudelot},
journal= {arXiv preprint arXiv:2012.01843},
year = {2020}
}