中文

基于深度随机游走的远域迁移学习

机器学习 2020-06-16 v1 机器学习

摘要

迁移学习旨在利用源域中的有用知识来提升目标域的学习性能,通常要求这两个域非常接近,这限制了其应用范围。近来,远域迁移学习被研究用于在两个距离较远甚至完全不相关的域之间,借助通常无标签的辅助域作为桥梁来迁移知识,其思想源于人类的传递推理,即通过逐步的知识迁移有可能将两个完全不相关的概念联系起来。本文通过提出一种基于深度随机游走的远域迁移(DERWENT)方法来研究远域迁移学习。与现有的远域迁移学习模型隐式地通过辅助实例识别源实例与目标实例之间的知识迁移路径不同,所提出的 DERWENT 模型能够通过深度随机游走技术显式地学习这些路径。具体而言,基于在源数据和目标数据没有直接边的数据图上由随机游走技术识别出的序列,所提出的 DERWENT 模型强制序列中相邻的数据点相似,使序列末端数据点由同一序列中的其他数据点表示,并考虑源数据的加权训练损失。在多个基准数据集上的实证研究表明,所提出的 DERWENT 算法达到了当前最优性能。

关键词

引用

@article{arxiv.2006.07622,
  title  = {Distant Transfer Learning via Deep Random Walk},
  author = {Qiao Xiao and Yu Zhang},
  journal= {arXiv preprint arXiv:2006.07622},
  year   = {2020}
}