DeltaBound 攻击:低查询次数下的高效基于决策的对抗攻击
机器学习
2022-10-04 v1 人工智能
密码学与安全
摘要
深度神经网络及其他机器学习系统尽管极其强大且能高精度预测,却易受对抗攻击。我们提出了 DeltaBound 攻击:一种在硬标签设定下、具有 ℓ_2 范数有界扰动的新型强力攻击。在此场景中,攻击者仅能访问模型预测的 top-1 标签,因此可应用于远程 API 等现实场景。由于攻击者对模型信息极少,这是一个复杂问题。因此,文献中多数其他技术需要海量查询来攻击单个样本。相反,本工作主要关注低查询次数 regime(≤1000 次查询)下硬标签设定中 ℓ_2 范数的攻击威力评估。我们发现 DeltaBound 攻击表现与当前最优攻击相当,有时更优,且在不同类型模型上均具竞争力。此外,我们不仅在深度神经网络上评估了该方法,也在非深度学习模型如梯度提升决策树和多类朴素贝叶斯上进行了评估。
引用
@article{arxiv.2210.00292,
title = {DeltaBound Attack: Efficient decision-based attack in low queries regime},
author = {Lorenzo Rossi},
journal= {arXiv preprint arXiv:2210.00292},
year = {2022}
}