感知对齐梯度是否为鲁棒分类器的普遍性质？
机器学习
2019-10-24 v2 计算机视觉与模式识别
机器学习
摘要
对于标准卷积神经网络，在输入像素上优化以最大化某目标类别的得分通常会产生原始图像的颗粒状版本。然而，Santurkar 等人（2019）证明，对于对抗训练神经网络，该优化会产生与目标类别惊人相似的图像。在本文中，我们表明这些“感知对齐梯度”也在随机平滑下出现，而随机平滑是构造对抗鲁棒分类器的另一种手段。我们的发现支持了感知对齐梯度可能是鲁棒分类器普遍性质这一假设。我们希望我们的结果能启发旨在解释感知对齐梯度与对抗鲁棒性之间联系的研究。
引用
@article{arxiv.1910.08640,
title = {Are Perceptually-Aligned Gradients a General Property of Robust Classifiers?},
author = {Simran Kaur and Jeremy Cohen and Zachary C. Lipton},
journal= {arXiv preprint arXiv:1910.08640},
year = {2019}
}
备注
To appear in the "Science Meets Engineering of Deep Learning" Workshop at NeurIPS 2019