迈向稳定而全面的域对齐:最大间隔域对抗训练
机器学习
2020-03-31 v1 机器学习
摘要
域适应(domain adaptation)解决将知识从标签丰富的源域迁移到标签稀缺甚至无标签目标域的问题。近来,域对抗训练(DAT)通过反转域分类器的梯度传播,展现出学习域不变特征空间的良好能力。然而,DAT 在多个方面仍显脆弱,包括:(1)对抗训练中因域分类器判别能力过强导致的训练不稳定;(2)受限的特征级对齐;(3)缺乏对所学习特征空间的可解释性或系统性说明。本文中,我们设计了一种对抗重构网络(ARN),提出新颖的最大间隔域对抗训练(MDAT)。所提 MDAT 通过用重构网络替代域分类器,稳定了 ARN 中的梯度反转,并以此方式在无需额外网络结构的情况下同时进行特征级与像素级域对齐。此外,ARN 对大范围超参数设置表现出强鲁棒性,极大缓解了模型选择负担。大量实证结果验证我们的方法优于其他最优域对齐方法。而且,重构适配特征揭示了符合直觉的域不变特征空间。
引用
@article{arxiv.2003.13249,
title = {Towards Stable and Comprehensive Domain Alignment: Max-Margin Domain-Adversarial Training},
author = {Jianfei Yang and Han Zou and Yuxun Zhou and Lihua Xie},
journal= {arXiv preprint arXiv:2003.13249},
year = {2020}
}