NormAUG:用于域泛化的归一化引导增强
计算机视觉与模式识别
2024-02-08 v2
摘要
深度学习在有监督学习方面取得了显著进展。然而,在此设定下训练的模型常因训练集与测试集之间的域偏移而面临挑战,导致测试时性能大幅下降。为解决此问题,若干域泛化方法被提出,以从多个训练域中学习鲁棒且域不变的特征,从而很好地泛化至未见过的测试域。数据增强通过提升训练数据的多样性,在实现该目标中起着关键作用。本文受如下观察启发:用由不同域的多个批次生成的不同统计量对图像进行归一化可扰动其特征,我们提出一种简单而有效的方法,称为NormAUG(归一化引导增强,Normalization-guided Augmentation)。我们的方法包含两条路径:主路径与辅助(增强)路径。训练期间,辅助路径包含多个子路径,每个子路径对应于单一域或随机多域组合的批归一化。这在特征层面引入了多样信息并提升了主路径的泛化能力。此外,我们的NormAUG方法从理论角度有效降低了已有的泛化上界。测试阶段,我们利用集成策略结合模型辅助路径的预测,进一步提升性能。我们在多个基准数据集上进行了充分实验以验证所提方法的有效性。
引用
@article{arxiv.2307.13492,
title = {NormAUG: Normalization-guided Augmentation for Domain Generalization},
author = {Lei Qi and Hongpeng Yang and Yinghuan Shi and Xin Geng},
journal= {arXiv preprint arXiv:2307.13492},
year = {2024}
}
备注
Accepted by IEEE Transactions on Image Processing (TIP)