学习匹配分布用于域适应
机器学习
2020-07-28 v3 计算机视觉与模式识别
机器学习
摘要
当训练与测试数据来自不同分布时,需要域适应以减少数据集偏差,提升模型泛化能力。由于直接匹配跨域联合分布较为困难,现有方法倾向于使用 MMD 与基于对抗的差异等预定义距离来减小边缘或条件分布散度。然而,由于这些方法构建时带有特定先验或偏差,难以确定哪种方法适用于给定应用,从而可能未能揭示可迁移特征与联合分布之间的潜在关系。本文提出学习匹配(L2M),以自动学习跨域分布匹配,而不依赖关于匹配损失的手工先验。相反,L2M 通过使用元网络以数据驱动方式学习分布匹配损失,从而减小归纳偏差。L2M 是一个统一任务无关与人工设计匹配特征的通用框架。我们针对这一具挑战性的目标设计了一种带自监督标签传播的新型优化算法。在公开数据集上的实验证实了 L2M 相对于 SOTA 方法的优越性。此外,我们将 L2M 应用于从肺炎到 COVID-19 胸部 X 光图像的迁移,取得了显著性能。L2M 也可扩展至其他分布匹配应用,我们在初步实验中展示了 L2M 生成更真实、更清晰的 MNIST 样本。
引用
@article{arxiv.2007.10791,
title = {Learning to Match Distributions for Domain Adaptation},
author = {Chaohui Yu and Jindong Wang and Chang Liu and Tao Qin and Renjun Xu and Wenjie Feng and Yiqiang Chen and Tie-Yan Liu},
journal= {arXiv preprint arXiv:2007.10791},
year = {2020}
}
备注
Preprint. 20 Pages. Code available at https://github.com/jindongwang/transferlearning/tree/master/code/deep/Learning-to-Match