f-域对抗学习：理论与算法
机器学习
2021-06-23 v1 人工智能
计算机视觉与模式识别
摘要
无监督域适应在许多机器学习应用中使用，其中在训练时，模型可访问目标域中的无标签数据以及一个相关的带标签数据集。本文中，我们引入一种新颖且通用的域对抗框架。具体而言，我们推导出一种新颖的域适应泛化界，其利用基于 f-散度的变分刻画的对分布间差异的新度量。它作为特例恢复了 Ben-David 等人（2010a）的理论结果，并支持实践中使用的散度。基于此界，我们推导出一种新算法框架，对 Ganin 等人（2016）的原始对抗训练方法做了关键修正。我们表明，近年来在该框架中引入的许多正则化项和临时目标函数，随后不再需要即可达到可与最先进域对抗方法相媲美（甚至更优）的性能。在真实世界自然语言与计算机视觉数据集上进行的实验分析表明，我们的框架优于现有基线，并对先前域对抗学习中未考虑的 f-散度取得了最佳结果。
引用
@article{arxiv.2106.11344,
title = {f-Domain-Adversarial Learning: Theory and Algorithms},
author = {David Acuna and Guojun Zhang and Marc T. Law and Sanja Fidler},
journal= {arXiv preprint arXiv:2106.11344},
year = {2021}
}
备注
ICML 2021