CAAD 2018：生成可迁移对抗样本
机器学习
2018-11-22 v2 人工智能
密码学与安全
摘要
深度神经网络（DNNs）在非定向和定向情况下都易受对抗样本的攻击，对抗样本是精心构造以欺骗目标 DNN 的扰动。在非定向情况下，攻击者仅旨在诱导误分类。在定向情况下，攻击者旨在诱导分类到指定目标类。此外，已观察到强对抗样本可迁移至未知模型，引发严重的安全担忧。NIPS 2017 竞赛旨在加速对抗攻击与防御的研究，其现实设定为提交的对抗攻击尝试迁移至提交的防御。CAAD 2018 竞赛以几乎与 NIPS 2017 相同的规则进行。鉴于 NIPS 2017 提交作品需开源的要求，CAAD 2018 竞赛的参与者能够直接在前人方案基础上构建，从而在此设定下改进 SOTA。我们的团队参加了 CAAD 2018 竞赛，并在攻击子赛道（非定向与定向对抗攻击）均获第一名，在防御赛道获第三名。我们在本文中概述我们的方案与开发结果。希望我们的结果能为生成与防御对抗样本的研究者提供参考。
引用
@article{arxiv.1810.01268,
title = {CAAD 2018: Generating Transferable Adversarial Examples},
author = {Yash Sharma and Tien-Dung Le and Moustafa Alzantot},
journal= {arXiv preprint arXiv:1810.01268},
year = {2018}
}
备注
1st place attack solutions and 3rd place defense in CAAD 2018 Competition