基于Cauchy-Schwarz散度的领域自适应
机器学习
2024-05-31 v1 机器学习
摘要
领域自适应旨在使用来自一个或多个源域的训练数据来学习一个可以泛化到不同但相关的目标域的假设。因此，拥有一个可靠的度量来评估边缘分布和条件分布的差异至关重要。我们将Cauchy-Schwarz（CS）散度引入无监督领域自适应（UDA）问题。CS散度提供了比流行的Kullback-Leibler散度理论上更紧的泛化误差界。这适用于监督学习的一般情况，包括多类分类和回归。此外，我们说明CS散度能够在表示空间中简单估计源域和目标域之间边缘分布和条件分布的差异，而不需要任何分布假设。我们提供了多个示例来说明CS散度如何方便地用于基于距离度量或对抗训练的UDA框架中，从而产生令人信服的性能。
引用
@article{arxiv.2405.19978,
title = {Domain Adaptation with Cauchy-Schwarz Divergence},
author = {Wenzhe Yin and Shujian Yu and Yicong Lin and Jie Liu and Jan-Jakob Sonke and Efstratios Gavves},
journal= {arXiv preprint arXiv:2405.19978},
year = {2024}
}
备注
Accepted by UAI-24