解决维度坍缩:面向全面通用域适应的方法
机器学习
2025-07-08 v3
摘要
通用域适应(Universal Domain Adaptation, UniDA)解决无监督域适应问题,其中目标类别可能与源类别完全不同,仅限于共享子集。广泛使用的部分域匹配(Partial Domain Matching, PDM)方法仅对齐共享类别,但在大量源类别缺失于目标域的极端情况下,表现不佳,甚至不如仅在源数据上训练的朴素基线。本文我们识别到PDM在极端UniDA中的失败源于目标表示的维度坍缩(Dimensional Collapse, DC)。为解决目标DC,我们提出在无标签目标数据上使用自监督学习中的去坍缩技术,以保留所学表示的内在结构。我们的实验结果确认,自监督学习 consistently advance PDM,并在不同共享类别比例的更广泛UniDA情景中实现了新的状态最佳性能,标志着通往真正全面UniDA的重要一步。项目页面:https://dc-unida.github.io/
引用
@article{arxiv.2410.11271,
title = {Tackling Dimensional Collapse toward Comprehensive Universal Domain Adaptation},
author = {Hung-Chieh Fang and Po-Yi Lu and Hsuan-Tien Lin},
journal= {arXiv preprint arXiv:2410.11271},
year = {2025}
}