利用图像缩放攻击对神经网络进行后门植入与投毒
密码学与安全
2020-03-20 v1 计算机视觉与模式识别
摘要
后门与投毒攻击是机器学习和视觉系统安全的重大威胁。然而，这些攻击通常在图像中留下可见伪影，可被肉眼检测，并削弱攻击效力。本文提出一种隐藏后门与投毒攻击的新策略。我们的方法建立在近期一类针对图像缩放的攻击之上。此类攻击能够操纵图像，使其在缩放到特定分辨率时改变内容。通过将投毒与图像缩放攻击相结合，我们可以隐藏后门的触发器，并掩盖干净标签投毒的叠加层。此外，我们考虑了对图像缩放攻击的检测并推导出一种自适应攻击。在实证评估中，我们证明了该策略的有效性。首先，我们表明后门与投毒在与图像缩放攻击结合时效果同样良好。其次，我们证明当前针对图像缩放攻击的检测防御不足以发现我们的操纵。总体而言，我们的工作提供了一种隐藏操纵痕迹的新手段，可应用于不同的投毒方法。
引用
@article{arxiv.2003.08633,
title = {Backdooring and Poisoning Neural Networks with Image-Scaling Attacks},
author = {Erwin Quiring and Konrad Rieck},
journal= {arXiv preprint arXiv:2003.08633},
year = {2020}
}
备注
IEEE Deep Learning and Security Workshop (DLS) 2020