通过从黑盒神经网络泄露通用扰动防御图像翻译深度伪造
计算机视觉与模式识别
2020-06-12 v1 密码学与安全
机器学习
神经与进化计算
摘要
本工作中，我们开发了对黑盒图像翻译深度伪造生成系统的高效干扰方法。我们首次通过给出最初针对分类模型提出的攻击的图像翻译表述，展示了黑盒深度伪造生成干扰。然而，朴素地适配分类黑盒攻击会导致现实世界中图像翻译系统所需查询次数过多。我们提出一种极其简单却高度有效的算法——泄露通用扰动（LUP），其显著减少了攻击一幅图像所需的查询次数。LUP 包含两个阶段：（1）短暂的泄露阶段，我们使用传统黑盒攻击网络并在小规模数据集上收集成功攻击的信息；（2）利用阶段，我们利用上述信息随后以更高效率攻击网络。我们的攻击将攻击 GANimation 和 StarGAN 所需的总查询次数减少了30%。
引用
@article{arxiv.2006.06493,
title = {Protecting Against Image Translation Deepfakes by Leaking Universal Perturbations from Black-Box Neural Networks},
author = {Nataniel Ruiz and Sarah Adel Bargal and Stan Sclaroff},
journal= {arXiv preprint arXiv:2006.06493},
year = {2020}
}