分布鲁棒域适应
机器学习
2022-11-01 v1 机器学习
摘要
域适应（DA）近年来因其在源域与目标域分布不匹配时迁移学习模型的潜力而受到广泛关注。由于 DA 方法仅依赖于给定的源域和目标域样本，其所得模型通常对噪声敏感，且无法适应来自目标域的未见样本，因此需要能够保证所学模型鲁棒性与泛化能力的 DA 方法。本文提出 DRDA，一种分布鲁棒域适应方法。DRDA 利用分布鲁棒优化（DRO）框架学习一个鲁棒决策函数，该函数通过从给定带标签的源域样本迁移知识，最小化最坏情况目标域风险，并泛化到目标域的任意样本。我们利用最大均值差异（MMD）度量构造一个模糊分布集，该集合以高概率包含源域和目标域分布。因此，所估计的风险被证明是目标域样本外损失的上界。实验结果表明，我们的形式化方法优于现有的鲁棒学习方法。
引用
@article{arxiv.2210.16894,
title = {Distributionally Robust Domain Adaptation},
author = {Akram S. Awad and George K. Atia},
journal= {arXiv preprint arXiv:2210.16894},
year = {2022}
}