瓦解Deepfakes：针对条件图像翻译网络与人脸操控系统的对抗攻击
计算机视觉与模式识别
2020-04-29 v3 密码学与安全
计算机与社会
机器学习
摘要
基于深度学习的面部修改系统已变得愈发强大且易用。给定人脸图像，此类系统可生成该人在不同表情与姿态下的新图像。某些系统还能修改发色或年龄等指定属性。此类被篡改的图像与视频被称为Deepfakes。为防止恶意用户在未经同意情况下生成某人的修改图像，我们着手解决针对此类图像翻译系统生成对抗攻击以破坏输出图像这一新问题。我们称之为瓦解deepfakes。多数图像翻译架构是以属性为条件的生成模型（例如给此人脸上添加微笑）。我们首次提出并成功应用：（1）可泛化至不同类别的类别可迁移对抗攻击，即攻击者无需知晓条件类别；（2）面向生成对抗网络（GANs）的对抗训练，作为迈向鲁棒图像翻译网络的第一步。最后，在灰盒场景下，模糊可构成针对瓦解的成功防御。我们提出一种扩频对抗攻击，可规避模糊防御。我们的开源代码见 https://github.com/natanielruiz/disrupting-deepfakes。
引用
@article{arxiv.2003.01279,
title = {Disrupting Deepfakes: Adversarial Attacks Against Conditional Image Translation Networks and Facial Manipulation Systems},
author = {Nataniel Ruiz and Sarah Adel Bargal and Stan Sclaroff},
journal= {arXiv preprint arXiv:2003.01279},
year = {2020}
}
备注
Accepted at CVPR 2020 Workshop on Adversarial Machine Learning in Computer Vision