SALT:将子空间对齐作为域适应的辅助学习任务
机器学习
2019-12-20 v2 计算机视觉与模式识别
机器学习
摘要
无监督域适应旨在将从有标签源域学到的知识迁移并适应到无标签目标域。无监督域适应的关键组成部分包括:(a) 最大化目标域上的性能,以及 (b) 对齐源域与目标域。传统上,这些任务要么被视为相互独立,要么被假定为通过高容量特征提取器隐式地一并处理。当分开考虑时,对齐通常被视为对齐数据分布的问题,要么通过子空间对齐等几何方法,要么通过最优传输等分布对齐方法。本文提出一种混合方法,我们假设数据具有简化的子空间几何形式,并将对齐视为最大化源域性能这一主要任务的辅助任务。通过利用易于处理的子空间形式数据几何,对齐变得相当简单。我们协同地允许从闭式辅助解导出的某些参数受到来自主要任务的梯度影响。所提出的方法代表了基于几何和基于模型的对齐与来自数据驱动主要任务的梯度的独特融合。我们的方法称为 SALT,是一个简单的框架,在多个标准基准上取得了可比拟甚至有时超越当前最优方法的性能。
引用
@article{arxiv.1906.04338,
title = {SALT: Subspace Alignment as an Auxiliary Learning Task for Domain Adaptation},
author = {Kowshik Thopalli and Jayaraman J. Thiagarajan and Rushil Anirudh and Pavan Turaga},
journal= {arXiv preprint arXiv:1906.04338},
year = {2019}
}