面向多源域适应的信息论正则化
机器学习
2021-11-30 v2 人工智能
摘要
对抗学习策略在处理单源域适应(DA)问题时已展现出卓越性能,且近来被应用于多源域适应(MDA)问题。尽管大多数现有MDA策略依赖于多域判别器设置,但其对潜空间表示的影响却鲜被理解。在此,我们采用信息论方法来识别并解决多域判别器对MDA的潜在不利影响:域判别信息的瓦解、有限的计算可扩展性,以及训练期间损失梯度的较大方差。我们通过将对抗DA置于信息正则化背景下考察上述问题。这也为使用单一且统一的域判别器提供了理论依据。基于该思想,我们实现了一种称为多源信息正则化适应网络(MIAN)的新型神经架构。大规模实验表明,尽管结构简洁,MIAN仍能可靠且显著地优于其他最先进的方法。
引用
@article{arxiv.2104.01568,
title = {Information-theoretic regularization for Multi-source Domain Adaptation},
author = {Geon Yeong Park and Sang Wan Lee},
journal= {arXiv preprint arXiv:2104.01568},
year = {2021}
}
备注
ICCV 2021