全局变分推断增强鲁棒域适应
机器学习
2025-11-18 v2
摘要
深度学习基于域适应（DA）的方法通过学习可迁移表征显示出强大的性能，但其对mini-batch训练的依赖限制了全局分布建模，导致对齐不稳定和泛化次优。我们提出了全局变分推断增强域适应（GVI-DA），一个学习通过变分推断实现连续、类别条件全局先验的框架，以实现结构感知的跨域对齐。GVI-DA通过潜在特征重建最小化域间隙，并通过全局码本学习和随机抽样来缓解后验崩溃。它进一步通过丢弃低置信度的伪标签并生成可靠的目标域样本来提高鲁棒性。在四个基准和三十八个DA任务上的大量实验表明，GVI-DA持续实现最先进的性能。我们还推导了模型的证据下界（ELBO），并分析了先验连续性、码本大小和伪标签噪声容忍度的影响。此外，我们比较了GVI-DA与扩散生成框架在优化原则和效率方面的差异，突出了其理论严谨性和实际优势。
引用
@article{arxiv.2507.03291,
title = {Global Variational Inference Enhanced Robust Domain Adaptation},
author = {Lingkun Luo and Shiqiang Hu and Liming Chen},
journal= {arXiv preprint arXiv:2507.03291},
year = {2025}
}
备注
The current version has issues in experimental protocol and presentation. Some evaluation settings (Office-Home/ImageCLEF splits & baselines; Secs.4.1 -- 4.2; Tabs.3 -- 5) are not fully aligned with recent practice, and several figures have labeling/flow issues (e.g., Fig.1(e), Figs.2 -- 4). A revised version will follow