一种用于域适应的统一联合最大均值差异
机器学习
2021-01-26 v1
摘要
域适应近年来受到大量关注，并已提出许多算法并取得令人印象深刻的进展。然而，关于该问题的联合概率分布（P(X, Y)）距离仍未得到充分探索，因为其源自最大均值差异（联合最大均值差异，JMMD）的经验估计会涉及难以处理的复杂张量积算子。为解决此问题，本文从理论上推导出一种易于优化的 JMMD 统一形式，并证明边缘、类条件以及加权类条件概率分布距离均为我们在不同标签核下的特例，其中加权类条件距离不仅能在类别层面实现跨域特征对齐，还能利用类先验概率处理不平衡数据集。从所揭示的统一 JMMD 出发，我们说明 JMMD 会削弱有益于分类的特征-标签依赖性（可分辨性），并且当标签核为加权类条件时其对标签分布偏移敏感。因此，我们利用希尔伯特-施密特独立性准则并提出一种新颖的 MMD 矩阵来促进该依赖性，并设计了一种对标签分布偏移鲁棒的新颖标签核。最后，我们在多个跨域数据集上进行广泛实验以证明所揭示理论结果的有效性与有效性。
引用
@article{arxiv.2101.09979,
title = {A Unified Joint Maximum Mean Discrepancy for Domain Adaptation},
author = {Wei Wang and Baopu Li and Shuhui Yang and Jing Sun and Zhengming Ding and Junyang Chen and Xiao Dong and Zhihui Wang and Haojie Li},
journal= {arXiv preprint arXiv:2101.09979},
year = {2021}
}