对抗样本是噪声中测试误差的自然结果
机器学习
2019-01-31 v1 计算机视觉与模式识别
机器学习
摘要
在过去几年中，对抗样本——即恶意构造以欺骗训练好的机器学习模型的输入——这一现象引起了研究界的关注，尤其是当攻击者被限制在对正确处理的输入进行微小修改时。不那么令人惊讶的是，图像分类器在随机 corrupted 的图像（如带有加性高斯噪声的图像）上也缺乏人类水平的表现。在本文中，我们提供了经验和理论证据，表明这是同一潜在现象的两种表现，建立了对抗鲁棒性与 corruption 鲁棒性研究计划之间的密切联系。这表明，改进对抗鲁棒性应与在更一般和现实的图像 corruption 存在下改进性能齐头并进。基于我们的结果，我们建议未来的对抗防御考虑使用如 Imagenet-C 等基准来评估其方法对分布偏移的鲁棒性。
引用
@article{arxiv.1901.10513,
title = {Adversarial Examples Are a Natural Consequence of Test Error in Noise},
author = {Nic Ford and Justin Gilmer and Nicolas Carlini and Dogus Cubuk},
journal= {arXiv preprint arXiv:1901.10513},
year = {2019}
}