中文

SRoUDA:面向鲁棒无监督域适应的元自训练方法

计算机视觉与模式识别 2022-12-13 v1

摘要

由于数据人工标注成本高昂,无监督域适应(UDA)将丰富标注数据集上学得的知识迁移至无标注目标数据集,正日益受到关注。尽管大量研究致力于提升模型在目标域上的准确率,模型鲁棒性的重要问题却被忽视。更糟的是,传统用于提升模型鲁棒性的对抗训练(AT)方法在 UDA 场景下不适用,因其基于监督损失函数生成的对抗样本训练模型。本文提出一种名为 SRoUDA 的新元自训练流程,以提升 UDA 模型的对抗鲁棒性。基于自训练范式,SRoUDA 首先通过在源标注数据与目标无标注数据上应用 UDA 基线及所开发的随机掩码增强(RMA)预训练源模型,随后在伪标注目标数据上对抗训练目标模型与通过元步骤微调源模型之间交替。自训练允许在 UDA 中直接引入 AT,而 SRoUDA 中的元步骤进一步有助于缓解来自噪声伪标签的误差传播。在多个基准数据集上的大量实验证明了 SRoUDA 的 SOTA 性能,其在不损害干净准确率的同时显著提升了模型鲁棒性。代码见 https://github.com/Vision。

关键词

引用

@article{arxiv.2212.05917,
  title  = {SRoUDA: Meta Self-training for Robust Unsupervised Domain Adaptation},
  author = {Wanqing Zhu and Jia-Li Yin and Bo-Hao Chen and Ximeng Liu},
  journal= {arXiv preprint arXiv:2212.05917},
  year   = {2022}
}

备注

This paper has been accepted for presentation at the AAAI2023