基于离散度约减增强对抗样本的跨任务迁移性
机器学习
2019-05-10 v1 密码学与安全
摘要
众所周知，神经网络易受精心构造的对抗样本攻击，并且这些恶意样本通常具有迁移性，即即便面对其他模型也能保持有效性。尽管大量工作致力于对抗样本的迁移性，令人惊讶的是，其在现实世界深度学习部署中的影响却较少受到关注。在本文中，我们研究了对抗样本在广泛现实计算机视觉任务中的迁移性，包括图像分类、不良内容检测、光学字符识别（OCR）和物体检测。这代表了网络犯罪者需要同时规避一组不同检测机制的情境。我们提出了一种实用攻击方法，通过针对内部特征图的“离散度”来克服现有攻击需要任务特定损失函数的局限。我们报告了在 Google Cloud Vision APIs 提供的四种不同计算机视觉任务上的评估，以展示我们的方法仅用微小扰动便大幅降低多种 CV 任务性能，从而优于现有攻击。
引用
@article{arxiv.1905.03333,
title = {Enhancing Cross-task Transferability of Adversarial Examples with Dispersion Reduction},
author = {Yunhan Jia and Yantao Lu and Senem Velipasalar and Zhenyu Zhong and Tao Wei},
journal= {arXiv preprint arXiv:1905.03333},
year = {2019}
}