具有类级梯度对齐的双判别器域对抗神经网络
计算机视觉与模式识别
2023-11-02 v2
摘要
无监督域适应旨在将标注源域中的丰富知识迁移到具有相同标签空间的未标注目标域。一种流行的解决方案是双判别器域对抗网络,它致力于识别源域分布支撑之外的目标域样本,并强制这些样本在两个判别器上的分类结果一致。尽管有效,但对分布外样本的不可知准确率和过度自信估计阻碍了其性能的进一步提升。为应对上述挑战,我们提出了一种新颖的具有类级梯度对齐的双判别器域对抗神经网络,即 BACG。BACG 借助梯度信号和二阶概率估计来更好地对齐域分布。具体而言,对于准确率感知,我们首先设计了一种可优化的近邻算法以获取目标域中样本的伪标签,然后在类级别上强制两个判别器的反向梯度近似一致。此外,遵循证据学习理论,我们将传统的基于 softmax 的优化方法转化为多项 Dirichlet 层次模型,以推断类别概率分布及样本不确定性,从而缓解对分布外样本的误估计并保证高质量的类别对齐。另外,受对比学习启发,我们开发了一种基于记忆库的变体,即 Fast-BACG,它能在精度轻微下降的代价下大幅缩短训练过程。在四个基准数据集上的大量实验与详细理论分析验证了我们算法的有效性与鲁棒性。
引用
@article{arxiv.2310.13959,
title = {Bi-discriminator Domain Adversarial Neural Networks with Class-Level Gradient Alignment},
author = {Chuang Zhao and Hongke Zhao and Hengshu Zhu and Zhenya Huang and Nan Feng and Enhong Chen and Hui Xiong},
journal= {arXiv preprint arXiv:2310.13959},
year = {2023}
}
备注
False Figure citation. For instance, Figure 8 hasn't been cited