面向跨域鲁棒性的分块感知批归一化
计算机视觉与模式识别
2024-09-17 v3
摘要
尽管深度学习在计算机视觉任务中取得了显著成功,跨域任务仍具挑战性:当训练集与测试集服从不同分布时模型性能会下降。多数现有方法采用对抗学习或实例归一化实现数据增强以解决该任务。相反,考虑到批归一化(BN)层对未见域可能不够鲁棒,且图像局部块间存在差异,我们提出一种称为分块感知批归一化(PBN)的新方法。具体而言,我们首先将一批特征图沿空间维度切分为不重叠块,然后独立归一化每个块以在每次迭代中联合优化共享BN参数。通过利用图像局部块间差异,所提PBN能有效增强模型参数的鲁棒性。此外,考虑到各块因尺寸小于全局特征图可能导致统计不准确,我们将全局累积统计与各批统计结合以获得归一化每块的最终统计。由于所提PBN可替换典型BN,它能集成进大多数现有SOTA方法。大量实验与分析证明了我们的PBN在分类、目标检测、实例检索与语义分割等多个计算机视觉任务中的有效性。
引用
@article{arxiv.2304.02848,
title = {Patch-aware Batch Normalization for Improving Cross-domain Robustness},
author = {Lei Qi and Dongjia Zhao and Yinghuan Shi and Xin Geng},
journal= {arXiv preprint arXiv:2304.02848},
year = {2024}
}
备注
Accepted by IEEE TCSVT