MultiMatch:面向半监督域泛化的多任务学习方法
计算机视觉与模式识别
2024-04-30 v3
摘要
域泛化(DG)旨在源域上学习一个模型,以在未见目标域上良好泛化。尽管已取得巨大成功,现有大多数方法要求源域中所有训练样本均具备标签信息,这在实际应用中耗时且昂贵。本文致力于解决半监督域泛化(SSDG)任务,其中每个源域仅有少量标签信息。为应对该任务,我们首先分析了多域学习的理论,其强调:1)减轻域间隙的影响,以及2)利用所有样本训练模型,可有效降低各源域上的泛化误差,从而提升伪标签质量。根据分析,我们提出MultiMatch,即将FixMatch扩展到多任务学习框架,为SSDG生成高质量伪标签。具体而言,我们将每个训练域视为单一任务(即局部任务),并将所有训练域合并(即全局任务)以训练一个面向未见测试域的额外任务。在多任务框架中,我们为每个任务使用独立的BN和分类器,可有效缓解伪标注时来自不同域的干扰。同时,框架中多数参数共享,可由所有训练样本充分训练。此外,为进一步提升伪标签准确率和模型泛化能力,我们在训练和测试时分别融合来自全局任务和局部任务的预测。一系列实验验证了所提方法的有效性,其在多个基准DG数据集上优于现有半监督方法及SSDG方法。
引用
@article{arxiv.2208.05853,
title = {MultiMatch: Multi-task Learning for Semi-supervised Domain Generalization},
author = {Lei Qi and Hongpeng Yang and Yinghuan Shi and Xin Geng},
journal= {arXiv preprint arXiv:2208.05853},
year = {2024}
}
备注
Accepted by ACM TOMM