无监督鲁棒域适配：范式、理论与算法
机器学习
2025-11-17 v1 计算机视觉与模式识别
摘要
无监督域适配（UDA）旨在通过解决域迁移，将来自标记丰富源域的知识传递到未标记目标域。大多数 UDA 方法侧重于提升迁移能力，却忽视了对对抗攻击的鲁棒性。尽管基础对抗训练（VAT）能提高深度神经网络的鲁棒性，但在 UDA 框架中效果有限。本文聚焦三个关键问题：1）为何 VAT 已知在防御方面有效，却在 UDA 范式中失效？2）在攻击下的泛化界限理论是如何从经典 UDA 理论演化而来的？3）如何实现无需复杂修改的鲁棒化训练程序？具体而言，我们探讨并揭示了通用 UDA+VAT 范式中的内在 entanglement 挑战，提出无监督鲁棒域适配（URDA）范式。进一步推导 URDA 范式的泛化界限理论，使其能够抵抗对抗噪声和域迁移。据我们所知，这是首次建立 URDA 范式及其理论。我们引入简单、新颖且高效的 URDA 算法，称为 Disentangled Adversarial Robustness Training（DART），其为一个两步训练程序，确保迁移性和鲁棒性。DART 首先预训练任意 UDA 模型，然后通过解耦蒸馏应用即时鲁棒化后训练。实验在四个基准数据集上进行，测试有无攻击情形，结果表明 DART 在保持域适应性的同时有效提升鲁棒性，验证了 URDA 范式和理论。
引用
@article{arxiv.2511.11009,
title = {Unsupervised Robust Domain Adaptation: Paradigm, Theory and Algorithm},
author = {Fuxiang Huang and Xiaowei Fu and Shiyu Ye and Lina Ma and Wen Li and Xinbo Gao and David Zhang and Lei Zhang},
journal= {arXiv preprint arXiv:2511.11009},
year = {2025}
}
备注
To appear in IJCV