SemanticAdv：通过属性条件图像编辑生成对抗样本
机器学习
2020-07-06 v4 密码学与安全
计算机视觉与模式识别
图像与视频处理
摘要
深度神经网络（DNNs）因其强大的表达能力在各种应用中取得了巨大成功。然而，近期研究表明，DNNs 易受对抗样本的攻击，这类样本是经过篡改的实例，旨在误导 DNNs 做出错误预测。目前，大多数此类对抗样本通过限制扰动的 范数来保证“微小扰动”。本文旨在探索语义操控对 DNNs 预测的影响，通过操纵图像的语义属性来生成“无限制对抗样本”。具体而言，我们提出一种算法 SemanticAdv，利用解耦的语义因子，通过改变受控语义属性来生成对抗扰动，以将学习器误导至各种“对抗”目标。我们进行了大量实验，表明基于语义的对抗样本不仅能欺骗人脸验证和关键点检测等不同学习任务，还能基于可迁移性对 Azure 人脸验证服务等“真实世界黑盒”服务实现高目标攻击成功率。为了进一步证明 SemanticAdv 在人脸识别领域之外的适用性，我们还在街景图像上生成了语义扰动。这种具有受控语义操控的对抗样本有助于进一步理解 DNNs 的脆弱性以及潜在的防御方法。
引用
@article{arxiv.1906.07927,
title = {SemanticAdv: Generating Adversarial Examples via Attribute-conditional Image Editing},
author = {Haonan Qiu and Chaowei Xiao and Lei Yang and Xinchen Yan and Honglak Lee and Bo Li},
journal= {arXiv preprint arXiv:1906.07927},
year = {2020}
}
备注
To appear at ECCV 2020