域适应与 entanglement：最优传输视角
机器学习
2025-03-12 v1
摘要
当前的机器学习系统在面对分布迁移（DS）时脆弱，即系统测试时的目标分布与训练时使用的源分布不同。这种对DS鲁性问题在域适应领域已得到广泛研究。对于深度神经网络，无监督域适应（UDA）的流行框架是域匹配法，即算法尝试在特征或输出空间中对齐边缘分布。然而，当前对这些方法的理论理解有限，现有理论结果无法准确描述其在实际中的性能。本文基于最优传输推导了新的上界，用于分析UDA问题。我们的新上界包含一个我们称为“entanglement”的项，由关于不同数据分布下条件分布之间 Wasserstein 距离的期望组成。对 entanglement 项的分析提供了对UDA不可优化方面的新视角。在多个DS情景下使用多个模型进行实验时，我们表明该项可用于解释UDA算法性能的差异。
引用
@article{arxiv.2503.08155,
title = {Domain Adaptation and Entanglement: an Optimal Transport Perspective},
author = {Okan Koç and Alexander Soen and Chao-Kai Chiang and Masashi Sugiyama},
journal= {arXiv preprint arXiv:2503.08155},
year = {2025}
}
备注
Accepted for publication in AISTATS'25