基于残差迁移网络的无监督域适应
机器学习
2017-02-17 v2
摘要
深度神经网络近期的成功依赖于海量标注数据。对于不可用标注数据的目标任务,域适应可以从不同的源域迁移学习器。本文中,我们提出一种深度网络域适应的新方法,可从源域标注数据和目标域未标注数据中联合学习自适应分类器和可迁移特征。我们放宽了先前方法做出的共享分类器假设,并假设源分类器与目标分类器由一个残差函数相差。我们通过将若干层插入深度网络以参考目标分类器显式学习残差函数,从而实现分类器适应。我们将多层特征与张量积融合,并将其嵌入再生核希尔伯特空间(reproducing kernel Hilbert spaces, RKHS)以匹配分布,从而实现特征适应。该适应可通过扩展大多数前馈模型添加新的残差层和损失函数来实现,并且可通过反向传播高效训练。实证表明,新方法在标准域适应基准上优于最先进方法。
引用
@article{arxiv.1602.04433,
title = {Unsupervised Domain Adaptation with Residual Transfer Networks},
author = {Mingsheng Long and Han Zhu and Jianmin Wang and Michael I. Jordan},
journal= {arXiv preprint arXiv:1602.04433},
year = {2017}
}
备注
30th Conference on Neural Information Processing Systems (NIPS 2016), Barcelona, Spain