一种受几何启发的基于决策的攻击
机器学习
2019-03-27 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
深度神经网络近来在图像分类中取得了巨大成功。然而近期研究表明，它们容易被对抗样本误导至错误分类决策。攻击者甚至可以在黑盒设置下通过查询模型来构造攻击，其中除最终决策外不释放任何模型信息。此类基于决策的攻击通常需要大量查询，而现实世界图像识别系统可能实际限制查询次数。本文中，我们提出 qFool，一种新颖的基于决策的攻击算法，可使用少量查询生成对抗样本。与先前基于决策的攻击相比，qFool 方法能大幅减少查询次数，同时达到相同质量的对抗样本。我们还通过约束低频频子空间中的对抗扰动来增强方法，使 qFool 计算更高效。总之，我们以少量查询成功欺骗商业图像识别系统，证明了新算法在实际中的有效性。
引用
@article{arxiv.1903.10826,
title = {A geometry-inspired decision-based attack},
author = {Yujia Liu and Seyed-Mohsen Moosavi-Dezfooli and Pascal Frossard},
journal= {arXiv preprint arXiv:1903.10826},
year = {2019}
}