利用离散度约简增强对抗样本的跨任务黑盒可迁移性
图像与视频处理
2019-11-27 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
已知神经网络易受精心构造的对抗样本攻击，且这些恶意样本通常具有迁移性，即即便针对其他模型仍保持对抗性。尽管已有大量工作致力于跨模型迁移性，令人惊讶的是，针对跨任务迁移性的关注较少，而后者代表了真实网络犯罪者所处的情境——需同时规避多种不同的防御/检测机制。本文研究了对抗样本在广泛真实计算机视觉任务间的迁移性，包括图像分类、目标检测、语义分割、不良内容检测和文本检测。我们提出的攻击最小化内部特征图的“离散度”，克服了现有攻击需任务特定损失函数和/或探测目标模型的局限。我们在开源检测与分割模型以及Google Cloud Vision（GCV）API提供的四种不同计算机视觉任务上进行了评估，表明我们的方法仅用微小扰动（linf=16）便大幅降低多个CV任务性能，优于现有攻击。
引用
@article{arxiv.1911.11616,
title = {Enhancing Cross-task Black-Box Transferability of Adversarial Examples with Dispersion Reduction},
author = {Yantao Lu and Yunhan Jia and Jianyu Wang and Bai Li and Weiheng Chai and Lawrence Carin and Senem Velipasalar},
journal= {arXiv preprint arXiv:1911.11616},
year = {2019}
}
备注
arXiv admin note: substantial text overlap with arXiv:1905.03333