基准测试神经网络对常见 corruptions 与扰动的鲁棒性
机器学习
2019-04-01 v1 计算机视觉与模式识别
机器学习
摘要
在本文中，我们建立了图像分类器鲁棒性的严格基准。我们的第一个基准 ImageNet-C 标准化并扩展了 corruption 鲁棒性主题，同时展示了在安全关键应用中哪些分类器更可取。然后我们提出了一个称为 ImageNet-P 的新数据集，使研究人员能够基准测试分类器对常见扰动的鲁棒性。与近期的鲁棒性研究不同，该基准评估的是常见 corruptions 和扰动上的性能，而非最坏情况对抗扰动。我们发现从 AlexNet 分类器到 ResNet 分类器，相对 corruption 鲁棒性几乎没有变化。随后我们发现了增强 corruption 和扰动鲁棒性的方法。我们甚至发现一种被绕过的对抗防御提供了实质性的常见扰动鲁棒性。我们的基准共同可能有助于未来朝着鲁棒泛化的网络方向开展工作。
引用
@article{arxiv.1903.12261,
title = {Benchmarking Neural Network Robustness to Common Corruptions and Perturbations},
author = {Dan Hendrycks and Thomas Dietterich},
journal= {arXiv preprint arXiv:1903.12261},
year = {2019}
}
备注
ICLR 2019 camera-ready; datasets available at https://github.com/hendrycks/robustness ; this article supersedes arXiv:1807.01697