关于深度域适应的一些理论理解
机器学习
2019-06-21 v3 人工智能
机器学习
摘要
与浅层域适应相比，深度域适应的最新进展表明其可以实现更高的预测性能和更强的处理结构化数据（例如图像和序列数据）的能力。深度域适应的基本思想是在联合空间中弥合源域与目标域之间的差距，从而使得在带标签源数据上训练的有监督分类器可以很好地迁移到目标域。这一思想直观且强大，然而支持其基本原理的理论理解十分有限。在本文中，我们提供了一个严格的框架来解释为何可能在联合空间中缩小目标域与源域的差距。更具体地，我们首先研究了从源域向目标域执行迁移学习时产生的损失。这提供了一个理论，解释并推广了现有主要基于经验工作的深度域适应。这使我们能够进一步解释为何在联合空间中缩小差距可以直接最小化两域间迁移学习所产生的损失。据我们所知，这给出了刻画联合空间直接界以及通过深度域适应的迁移学习收益的首个理论结果。
引用
@article{arxiv.1811.06199,
title = {On Deep Domain Adaptation: Some Theoretical Understandings},
author = {Trung Le and Khanh Nguyen and Nhat Ho and Hung Bui and Dinh Phung},
journal= {arXiv preprint arXiv:1811.06199},
year = {2019}
}