针对神经网络的无差别数据投毒攻击

数据投毒攻击中，恶意 adversary 旨在通过向训练过程注入“投毒”数据来影响模型，近来引起了显著关注。在这项工作中，我们仔细审视现有的投毒攻击，并将其与求解序贯 Stackelberg 博弈的旧算法和新算法相联系。通过为攻击者选择适当的损失函数，并利用利用二阶信息的算法进行优化，我们设计了在神经网络上有效的投毒攻击。我们给出了高效的实现，利用现代自动微分包，允许同时协调地生成数万个投毒点，而现有方法逐个生成投毒点。我们进一步进行了大量实验，从经验上探究数据投毒攻击对深度神经网络的影响。