TransAdapter：用于以特征为中心的无监督域适应的视觉Transformer
计算机视觉与模式识别
2024-12-06 v1
摘要
无监督域适应（UDA）旨在利用源域中的标记数据来解决未标记目标域中的任务，这通常受到显著域差异的阻碍。传统的基于CNN的方法难以完全捕捉复杂的域关系，这促使了向视觉Transformer（如Swin Transformer）的转变，后者在建模局部和全局依赖关系方面表现出色。在这项工作中，我们提出了一种利用Swin Transformer的新颖UDA方法，该方法包含三个关键模块。图域判别器通过图卷积和基于熵的注意力区分来捕获像素间的相关性，从而增强域对齐。自适应双重注意力模块结合了窗口注意力和移位窗口注意力，并通过动态重加权来有效对齐长程和局部特征。最后，跨特征变换修改了Swin Transformer块，以提高跨域泛化能力。大量基准测试证实了我们这种通用方法的最先进性能，它不需要特定于任务的对称模块，从而确立了其对多样化应用的适应性。
引用
@article{arxiv.2412.04073,
title = {TransAdapter: Vision Transformer for Feature-Centric Unsupervised Domain Adaptation},
author = {A. Enes Doruk and Erhan Oztop and Hasan F. Ates},
journal= {arXiv preprint arXiv:2412.04073},
year = {2024}
}