Dropout攻击
机器学习
2023-09-06 v1 密码学与安全
摘要
Dropout是深度学习中一种常见的算子，旨在训练过程中通过随机丢弃神经元来防止过拟合。本文提出一类针对神经网络的新投毒攻击，称为DROPOUTATTACK。DROPOUTATTACK通过操纵待丢弃神经元的选择（而非均匀随机选取）来攻击dropout算子。我们设计、实现并评估了涵盖广泛场景的四种DROPOUTATTACK变体。这些攻击可减缓或停止训练、破坏目标类的预测精度，并损害目标类的精确率或召回率。在CIFAR-100上训练VGG-16模型的实验中，我们的攻击可在不造成模型精度任何下降的情况下，将受害类的精确率降低34.6%（从81.7%降至47.1%）。
引用
@article{arxiv.2309.01614,
title = {Dropout Attacks},
author = {Andrew Yuan and Alina Oprea and Cheng Tan},
journal= {arXiv preprint arXiv:2309.01614},
year = {2023}
}