基于神经网络对抗训练的多源领域自适应
机器学习
2017-10-31 v2 人工智能
机器学习
摘要
尽管领域自适应近年来得到了积极研究，但大多数理论结果和算法都聚焦于单源单目标的自适应设定。此类算法在多源领域自适应问题上的朴素应用可能导致次优解。为弥合这一差距，我们提出了一种新的泛化界，适用于存在多个带有标签样本的源域和一个带有无标签样本的目标域的领域自适应场景。与现有界相比，新界不需要关于目标分布的专家知识，也不需要多源域的最优组合规则。有趣的是，我们的理论还引出了一种使用对抗神经网络的高效学习策略：我们展示了如何将其解读为学习对多域偏移不变同时仍对学习任务具有判别性的特征表示。为此，我们提出了两个模型，均称为多源领域对抗网络（MDANs）：第一个模型直接优化我们的界，而第二个模型是第一个模型的平滑近似，从而得到一个更具数据效率和任务自适应性的模型。两个模型的优化任务都是极小极大鞍点问题，可通过对抗训练优化。为证明 MDANs 的有效性，我们进行了大量实验，在三个真实世界数据集上展示了优越的自适应性能：情感分析、数字分类和车辆计数。
引用
@article{arxiv.1705.09684,
title = {Multiple Source Domain Adaptation with Adversarial Training of Neural Networks},
author = {Han Zhao and Shanghang Zhang and Guanhang Wu and João P. Costeira and José M. F. Moura and Geoffrey J. Gordon},
journal= {arXiv preprint arXiv:1705.09684},
year = {2017}
}