你是否在篡改我的数据？
机器学习
2018-08-22 v1 机器学习
摘要
我们提出了一种针对神经网络（NN）对抗攻击的新方法，侧重于篡改用于训练的数据，而非在已训练模型上生成攻击。这种与网络无关的方法在训练期间创建一个后门，可在测试时加以利用以迫使神经网络表现出异常行为。我们在两个广泛使用的数据集（CIFAR-10 和 SVHN）上证明，对训练集中某一类的所有图像每图仅做一处通用单像素修改，就足以破坏多种最先进深度神经网络的训练过程，导致网络将施加了该修改的任何图像误分类。我们的目的是提请机器学习界注意，即便是基于学习、由个人在公开数据集上训练的方法，也可能受到熟练对手的攻击。
引用
@article{arxiv.1808.06809,
title = {Are You Tampering With My Data?},
author = {Michele Alberti and Vinaychandran Pondenkandath and Marcel Würsch and Manuel Bouillon and Mathias Seuret and Rolf Ingold and Marcus Liwicki},
journal= {arXiv preprint arXiv:1808.06809},
year = {2018}
}
备注
18 pages