使用随机对抗训练的神经网络的鲁棒性
机器学习
2020-02-14 v3 机器学习
摘要
本文解决防御神经网络免受以不同范数构造的对抗攻击（特别是 与 有界对抗样本）的问题。已观察到，旨在防御一类攻击的机制常对另一类提供较差性能。我们表明 防御机制无法对 攻击提供良好保护，反之亦然，并对此现象给出理论与实证见解。随后，我们讨论结合现有防御机制的各种方式，以训练对两类攻击均鲁棒的神经网络。我们的实验表明，这些新防御机制在遭受两类范数攻击时提供更好保护。
引用
@article{arxiv.1903.10219,
title = {Robust Neural Networks using Randomized Adversarial Training},
author = {Alexandre Araujo and Laurent Meunier and Rafael Pinot and Benjamin Negrevergne},
journal= {arXiv preprint arXiv:1903.10219},
year = {2020}
}