基于统一嵌入的级联对抗机器学习
机器学习
2018-03-20 v3 机器学习
摘要
在训练过程中注入对抗样本（即对抗训练）可以提高针对单步攻击的鲁棒性，但对未知的迭代攻击则不然。为应对这一挑战，我们首先表明，迭代生成的对抗图像在以相同策略训练的网络之间极易迁移。受此观察启发，我们提出了级联对抗训练，以传递对抗训练最终结果的知识。我们从零开始训练一个网络，除了注入来自当前训练网络的单步对抗图像外，还注入由已防御网络生成的迭代对抗图像。我们还提出利用嵌入空间同时进行分类和低层（像素级）相似性学习，以忽略未知的像素级扰动。在训练过程中，我们注入对抗图像而不替换其对应的干净图像，并惩罚这两种嵌入（干净图像与对抗图像）之间的距离。实验结果表明，级联对抗训练结合我们提出的低层相似性学习能有效增强针对迭代攻击的鲁棒性，但以降低针对单步攻击的鲁棒性为代价。我们表明，结合这两种技术也可以改善在最坏情况黑盒攻击场景下的鲁棒性。
引用
@article{arxiv.1708.02582,
title = {Cascade Adversarial Machine Learning Regularized with a Unified Embedding},
author = {Taesik Na and Jong Hwan Ko and Saibal Mukhopadhyay},
journal= {arXiv preprint arXiv:1708.02582},
year = {2018}
}
备注
16 pages, 9 figures, International Conference on Learning Representations (ICLR) 2018