用于单域泛化的对抗自适应归一化
计算机视觉与模式识别
2021-06-04 v1
摘要
单域泛化旨在仅使用一个域的数据进行训练，学习一个在多个未见域上表现良好的模型。现有工作侧重于研究对抗域增强(ADA)以提升模型的泛化能力。归一化层的统计量对域泛化的影响仍缺乏充分研究。本文提出一种通用归一化方法——自适应标准化与重缩放归一化(ASR-Norm)，以弥补先前工作中缺失的部分。ASR-Norm 通过神经网络同时学习标准化与重缩放统计量。这种新形式的归一化可视为传统归一化的通用形式。当与 ADA 联合训练时，ASR-Norm 中的统计量被学习为对来自不同域的数据具有自适应性，从而提升跨域模型泛化性能，尤其在与目标域和源域差异较大的情况下。实验结果表明，ASR-Norm 能在 Digits、CIFAR-10-C 和 PACS 基准上分别为最先进的 ADA 方法带来平均 1.6%、2.7% 和 6.3% 的一致提升。作为一种通用工具，ASR-Norm 带来的提升与所选用 ADA 方法无关。
引用
@article{arxiv.2106.01899,
title = {Adversarially Adaptive Normalization for Single Domain Generalization},
author = {Xinjie Fan and Qifei Wang and Junjie Ke and Feng Yang and Boqing Gong and Mingyuan Zhou},
journal= {arXiv preprint arXiv:2106.01899},
year = {2021}
}
备注
CVPR 2021