SparseFool：少量像素造成显著差异
计算机视觉与模式识别
2019-05-28 v4 密码学与安全
机器学习
摘要
深度神经网络在图像分类任务上取得了卓越成果，但已被证明易受针对输入数据精心构造扰动的攻击。尽管大多数攻击通常会改变许多图像像素的值，但研究表明深度网络也易受输入稀疏改动的影响。然而，尚无计算高效的方法被提出以计算稀疏扰动。本文利用决策边界的低平均曲率，提出 SparseFool，一种受几何启发的稀疏攻击，可控制扰动的稀疏性。大量评估表明，我们的方法计算稀疏扰动非常快，并能高效扩展到高维数据。我们进一步分析了扰动的可迁移性与视觉效应，并展示了图像与网络间共享语义信息的存在。最后，我们表明对抗训练仅能略微提升针对 SparseFool 计算的稀疏加性扰动的鲁棒性。
引用
@article{arxiv.1811.02248,
title = {SparseFool: a few pixels make a big difference},
author = {Apostolos Modas and Seyed-Mohsen Moosavi-Dezfooli and Pascal Frossard},
journal= {arXiv preprint arXiv:1811.02248},
year = {2019}
}
备注
In Proceedings of IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2019