重访批归一化以提升抗腐蚀鲁棒性
计算机视觉与模式识别
2021-01-29 v4
摘要
在干净图像上训练的 DNN 在测试图像存在常见腐蚀时性能会下降。本工作中，我们将抗腐蚀鲁棒性解释为域偏移，并提议修正批归一化（BN）统计量以提升模型鲁棒性。其动机是将从干净域到腐蚀域的偏移视为由 BN 统计量所表示的风格偏移。我们发现，仅在少量（例如 32 个）表征样本上估计并调整 BN 统计量，无需重新训练模型，即可在多个基准数据集和广泛模型架构上大幅提升抗腐蚀鲁棒性。例如，在 ImageNet-C 上，统计量自适应将 ResNet50 的 top1 准确率从 39.2% 提升至 48.7%。此外，我们发现该技术可进一步将最先进鲁棒模型从 58.1% 提升至 63.3%。
引用
@article{arxiv.2010.03630,
title = {Revisiting Batch Normalization for Improving Corruption Robustness},
author = {Philipp Benz and Chaoning Zhang and Adil Karjauv and In So Kweon},
journal= {arXiv preprint arXiv:2010.03630},
year = {2021}
}
备注
Accepted at WACV 2021