DT-LET：通过探索迁移位置实现的深度迁移学习
机器学习
2018-09-25 v1 机器学习
摘要
以往基于深度网络的迁移学习方法假设知识应在源域与目标域的相同隐藏层之间迁移。这一假设并非总是成立，尤其当两域数据具有不同分辨率的异质性时。在此情况下，源域数据与目标域数据最合适的层数会不同。结果，来自源域的高层知识会被迁移到目标域的错误层。基于这一观察，本文提出的“迁移位置(where to transfer)”应是一个新颖的研究前沿。我们提出一个名为 DT-LET 的新数学模型来解决这一异质迁移学习问题。为选择最佳的层匹配以迁移知识，我们定义特定的损失函数以估计源域与目标域数据高层特征之间的对应关系。为验证所提出的跨层模型，我们针对两项跨域识别/分类任务进行了实验，所取得的优越结果证明了层对应搜索的必要性。
引用
@article{arxiv.1809.08541,
title = {DT-LET: Deep Transfer Learning by Exploring where to Transfer},
author = {Jianzhe Lin and Qi Wang and Rabab Ward and Z. Jane Wang},
journal= {arXiv preprint arXiv:1809.08541},
year = {2018}
}
备注
Conference paper submitted to AAAI 2019