基于分层最优传输的域适应理论保证
机器学习
2022-10-25 v1 机器学习
摘要
当训练样本与测试样本的数据生成过程不同时（分别称为源域和目标域），域适应成为统计学习理论中的一个重要问题。近期的理论进展表明，域适应算法的成功在很大程度上依赖于其最小化源域与目标域概率分布之间差异的能力。然而，最小化该差异不能独立于其他关键要素（如源域风险或理想联合假设的联合误差）的最小化而进行。这些项之间的权衡通常由算法方案来保证，这些方案往往是隐式的，并未在理论保证中直接体现。为深入探究此问题，本文提出了一个通过分层最优传输进行域适应的新理论框架。该框架提供了更显式的泛化界，并允许我们考虑两个域中样本按类或簇的自然分层组织。此外，我们提出了一种称为分层 Wasserstein 距离的源域与目标域之间的新差异度量，其在温和假设下指明了哪些结构必须对齐才能导致成功的适应。
引用
@article{arxiv.2210.13331,
title = {Theoretical Guarantees for Domain Adaptation with Hierarchical Optimal Transport},
author = {Mourad El Hamri and Younès Bennani and Issam Falih},
journal= {arXiv preprint arXiv:2210.13331},
year = {2022}
}