归一化扰动:一种面向真实世界域偏移的简单域泛化方法
计算机视觉与模式识别
2022-11-10 v2
摘要
提高模型对域偏移的泛化能力至关重要,尤其对于自动驾驶等安全关键应用。真实世界的域风格可能因环境变化和传感器噪声而发生显著变化,但深度模型仅了解训练域的风格。这种域风格差距阻碍了模型在多样化真实世界域上的泛化。我们提出的归一化扰动(NP)可以有效克服这种域风格过拟合问题。我们观察到,这个问题主要是由浅层 CNN 层中学习到的低级特征的偏置分布引起的。因此,我们提出扰动源域特征的通道统计量,以合成各种潜在风格,从而使训练后的深度模型能够感知多样化的潜在域,即使在训练中未观察到目标域数据也能很好地泛化。我们进一步探索了风格敏感通道以实现有效的风格合成。归一化扰动仅依赖于单个源域,并且出奇地有效且极易实现。大量实验验证了我们的方法在真实世界域偏移下泛化模型的有效性。
引用
@article{arxiv.2211.04393,
title = {Normalization Perturbation: A Simple Domain Generalization Method for Real-World Domain Shifts},
author = {Qi Fan and Mattia Segu and Yu-Wing Tai and Fisher Yu and Chi-Keung Tang and Bernt Schiele and Dengxin Dai},
journal= {arXiv preprint arXiv:2211.04393},
year = {2022}
}