基于高斯混合模型与最优传输的更轻量、更优、更快的多源域适应
机器学习
2024-08-22 v3 机器学习
摘要
本文研究多源域适应（MSDA），这是迁移学习中的一项任务，旨在将多个异质、有标签的源概率测度适应到一个不同的、无标签的目标测度。我们提出了一种基于最优传输（OT）和高斯混合模型（GMM）的新型 MSDA 框架。该框架具有两个关键优势。首先，GMM 之间的 OT 可以通过线性规划高效求解。其次，它为监督学习（尤其是分类）提供了便捷的模型，因为 GMM 中的分量可以与现有类别相关联。基于 GMM-OT 问题，我们提出了一种计算 GMM 重心（barycenter）的新技术。基于这一新算法，我们提出了两种新的 MSDA 策略：GMM-Wasserstein 重心传输（WBT）和 GMM-数据集字典学习（DaDiL）。我们在图像分类和故障诊断的四个基准上对提出的方法进行了实证评估，结果表明我们在改进先前技术的同时，速度更快且参数更少。我们的代码已在 https://github.com/eddardd/gmm_msda 公开。
引用
@article{arxiv.2404.10261,
title = {Lighter, Better, Faster Multi-Source Domain Adaptation with Gaussian Mixture Models and Optimal Transport},
author = {Eduardo Fernandes Montesuma and Fred Ngolè Mboula and Antoine Souloumiac},
journal= {arXiv preprint arXiv:2404.10261},
year = {2024}
}
备注
13 pages, 6 figures, accepted as a research track paper at the ECML-PKDD 2024 conference