中文

异质迁移学习近期综述

机器学习 2024-07-19 v3 人工智能

摘要

迁移学习的应用通过利用源域知识提升目标域模型性能,已显著增长并支撑了多种现实应用。其成功往往依赖于域间共享知识,这些方法通常对此有要求。常见方法假设两域具有相同的特征空间与标签空间,即同质迁移学习。然而这往往不切实际,因为源域与目标域通常在这些空间上不同,使得精确数据匹配困难且代价高昂。因此,解决这些差异的异质迁移学习(HTL)已成为各类任务中的关键策略。本文对超过60种HTL方法进行了广泛综述,涵盖基于数据与基于模型的方法。我们描述了这些方法的关键假设与算法,并将其系统划分为基于实例、基于特征表示、参数正则化与参数微调技术。此外,我们探讨了在自然语言处理、计算机视觉、多模态学习与生物医学中的应用,旨在深化理解并推动这些领域的进一步研究。我们的论文包含HTL的最新进展,如基于transformer的模型与多模态学习技术的引入,确保综述涵盖该领域最新发展。我们指出了当前HTL研究的关键局限,并为未来研究提供系统性指导,强调需进一步探索的方向并建议推进该领域的潜在路径。

关键词

引用

@article{arxiv.2310.08459,
  title  = {A Recent Survey of Heterogeneous Transfer Learning},
  author = {Runxue Bao and Yiming Sun and Yuhe Gao and Jindong Wang and Qiang Yang and Zhi-Hong Mao and Ye Ye},
  journal= {arXiv preprint arXiv:2310.08459},
  year   = {2024}
}

备注

23 pages, 7 figures