探索空间鲁棒性的格局
机器学习
2019-09-17 v4 计算机视觉与模式识别
神经与进化计算
机器学习
摘要
迄今为止，对抗鲁棒性的研究主要集中于以 p-范数约束的扰动。然而，最先进的模型也被证明易受其他更自然的扰动类别（如平移与旋转）的影响。在本工作中，我们深入研究了基于神经网络的分类器对旋转与平移的脆弱性。虽然数据增强仅提供相对较小的鲁棒性，我们利用鲁棒优化与测试时输入聚合的思想显著提升了鲁棒性。最后我们发现，与 p-范数情形相反，一阶方法无法可靠地找到最坏情况扰动。这凸显了空间鲁棒性作为一个根本不同、需要额外研究的设定。代码见 https://github.com/MadryLab/adversarial_spatial 与 https://github.com/MadryLab/spatial-pytorch。
引用
@article{arxiv.1712.02779,
title = {Exploring the Landscape of Spatial Robustness},
author = {Logan Engstrom and Brandon Tran and Dimitris Tsipras and Ludwig Schmidt and Aleksander Madry},
journal= {arXiv preprint arXiv:1712.02779},
year = {2019}
}
备注
ICML 2019. Presented in NIPS 2017 Workshop on Machine Learning and Computer Security as "A Rotation and a Translation Suffice: Fooling CNNs with Simple Transformations."