标签通用定向攻击
密码学与安全
2019-06-04 v2 计算机视觉与模式识别
机器学习
摘要
我们提出标签通用定向攻击 (LUTA)，其使深度模型以高概率将给定源类的“任意”样本预测为攻击者所选标签。我们的攻击利用一阶梯度优化随机最大化源类目标标签的对数概率，同时考虑梯度矩。它还抑制攻击信息向非源类的泄漏以避免引起攻击怀疑。我们的攻击产生的扰动在大规模 ImageNet 和 VGGFace 模型上实现了高欺骗率，并良好迁移至物理世界 (Physical World)。鉴于 LUTA 中扰动范围的完全可控，我们还展示其作为深度模型解剖工具的应用。所提攻击揭示了关于深度模型的有趣扰动模式与观察。
引用
@article{arxiv.1905.11544,
title = {Label Universal Targeted Attack},
author = {Naveed Akhtar and Mohammad A. A. K. Jalwana and Mohammed Bennamoun and Ajmal Mian},
journal= {arXiv preprint arXiv:1905.11544},
year = {2019}
}