通用对抗扰动的博弈
机器学习
2018-09-27 v2 计算机视觉与模式识别
机器学习
摘要
我们研究学习对通用对抗扰动鲁棒的的分类器的问题。尽管先前工作通过鲁棒优化、对抗训练或输入变换处理该问题，我们将其表述为双人零和博弈。在这一新公式中，双方同时玩同一博弈，其中一方选择使分类损失最小的分类器，而另一方生成对抗扰动，当应用于训练集中每个样本时增大同一损失。通过观察到执行分类（分别对应生成对抗样本）是对另一玩家的最佳响应，我们提出将博弈论算法即虚拟博弈新颖地扩展到训练鲁棒分类器的领域。最后，我们在两个防御场景下通过实证展示了我们方法的鲁棒性与通用性，其中对多个图像分类数据集——CIFAR10、CIFAR100 和 ImageNet——执行了通用攻击。
引用
@article{arxiv.1809.07802,
title = {Playing the Game of Universal Adversarial Perturbations},
author = {Julien Perolat and Mateusz Malinowski and Bilal Piot and Olivier Pietquin},
journal= {arXiv preprint arXiv:1809.07802},
year = {2018}
}