通过协变量偏移自适应提升对常见 corruptions 的鲁棒性
机器学习
2020-10-26 v2 计算机视觉与模式识别
机器学习
摘要
当今最先进的机器视觉模型易受模糊或压缩伪影等图像损坏的影响，限制了它们在许多现实世界应用中的性能。我们在此论证，衡量模型对常见损坏（如 ImageNet-C）鲁棒性的流行基准低估了模型在许多（而非全部）应用场景中的鲁棒性。关键洞见在于，在许多场景中，可获得损坏的多个无标签样本并可用于无监督在线自适应。将以训练集上由批量归一化估计的激活统计量替换为损坏图像的统计量，持续提升了 25 个不同流行计算机视觉模型的鲁棒性。使用修正后的统计量，ResNet-50 在 ImageNet-C 上达到 62.2% mCE，而未自适应时为 76.7%。借助更鲁棒的 DeepAugment+AugMix 模型，我们将迄今为止 ResNet50 模型所达最先进水平从 53.6% mCE 提升至 45.4% mCE。即便对单个样本自适应也提升了 ResNet-50 与 AugMix 模型的鲁棒性，且 32 个样本足以改进 ResNet-50 架构的当前最先进水平。我们主张，在报告损坏基准与其他分布外泛化设置中的分数时，应始终包含采用自适应统计量的结果。
引用
@article{arxiv.2006.16971,
title = {Improving robustness against common corruptions by covariate shift adaptation},
author = {Steffen Schneider and Evgenia Rusak and Luisa Eck and Oliver Bringmann and Wieland Brendel and Matthias Bethge},
journal= {arXiv preprint arXiv:2006.16971},
year = {2020}
}
备注
Accepted at the Thirty-fourth Conference on Neural Information Processing Systems. Web: https://domainadaptation.org/batchnorm/