基于倒数第二层激活对抗训练的无监督域适应
机器学习
2023-02-28 v2 计算机视觉与模式识别
摘要
提升模型在目标数据上的预测置信度是无监督域适应（UDA）中的一个重要目标。在本文中，我们探索了对倒数第二层激活（即最终线性分类层的输入特征）进行对抗训练。我们表明，与先前工作中对输入图像或中间特征进行对抗训练相比，该策略更高效，且与提升预测置信度这一目标的相关性更好。此外，针对域适应中常用于减小域差距的激活归一化，我们推导了两种变体并系统分析了归一化对我们的对抗训练的影响。这通过理论以及在真实适应任务上的实证分析加以说明。我们在流行的 UDA 基准上于标准设定和无源数据设定下进行了大量实验。结果验证了我们的方法取得了优于以往最优方法的分数。代码见 https://github.com/tsun/APA。
引用
@article{arxiv.2208.12853,
title = {Domain Adaptation with Adversarial Training on Penultimate Activations},
author = {Tao Sun and Cheng Lu and Haibin Ling},
journal= {arXiv preprint arXiv:2208.12853},
year = {2023}
}
备注
AAAI 2023 Oral