利用经验性质的直觉简化对抗训练防御方法
机器学习
2019-06-28 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
由于复杂分布具有出人意料的强大表示能力，神经网络（NN）分类器被广泛应用于自然语言处理、计算机视觉和网络安全等众多任务中。在最近的研究中，人们注意到对抗样本的存在。这些对抗样本打破了神经网络分类器关于环境无攻击的基本假设，能够在几乎不引起察觉的情况下轻易误导训练有素的神经网络分类器。在众多防御方法中，对抗训练是一种流行的选择。然而，使用单步对抗样本的原始对抗训练（Single-Adv）无法防御迭代对抗样本。尽管使用迭代对抗样本的对抗训练（Iter-Adv）能够防御迭代对抗样本，但它消耗过多的计算资源，因此不易扩展。在本文中，我们分析了Iter-Adv技术，并识别出它们的两个经验性质。基于这些性质，我们提出了改进方案，以增强Single-Adv的性能，使其与Iter-Adv具有竞争力。通过初步评估，我们表明所提出的方法将最先进的（SOTA）Single-Adv防御方法对迭代对抗样本的测试准确率提高了高达16.93%，同时将其训练成本降低了28.75%。
引用
@article{arxiv.1906.11729,
title = {Using Intuition from Empirical Properties to Simplify Adversarial Training Defense},
author = {Guanxiong Liu and Issa Khalil and Abdallah Khreishah},
journal= {arXiv preprint arXiv:1906.11729},
year = {2019}
}