论通用化对抗扰动与不变扰动
机器学习
2020-06-09 v1 计算机视觉与模式识别
机器学习
摘要
卷积神经网络或标准 CNN（StdCNN）是平移等变模型，在经充分平移增广数据训练时可实现平移不变性。近期关于给定变换群（如旋转）等变模型的工作催生了群等变卷积神经网络（GCNN）。经充分旋转增广数据训练的 GCNN 可实现旋转不变性。作者 arXiv:2002.11318 的近期工作研究了不变性与对抗攻击鲁棒性之间的权衡。在另一相关工作中 arXiv:2005.08632，给定任意模型与任意满足特定谱性质的输入相关攻击，作者提出一种称为 SVD-Universal 的通用化技术，通过极少测试样本生成通用对抗扰动。本文中，我们研究 SVD-Universal 在 GCNN 上的有效性，因其通过更高程度的训练增广获得旋转不变性。我们实证观察到，随着 GCNN 通过更大旋转增广训练获得旋转不变性，SVD-Universal 的欺骗率变得更高。为理解该现象，我们引入通用不变方向并研究其与 SVD-Universal 产生的通用对抗方向的关系。
引用
@article{arxiv.2006.04449,
title = {On Universalized Adversarial and Invariant Perturbations},
author = {Sandesh Kamath and Amit Deshpande and K V Subrahmanyam},
journal= {arXiv preprint arXiv:2006.04449},
year = {2020}
}
备注
Some part of this work was presented in ICML 2018 Workshop on "Towards learning with limited labels: Equivariance, Invariance,and Beyond" as "Understanding Adversarial Robustness of Symmetric Networks"