BO-DBA：基于贝叶斯优化的查询高效决策型对抗攻击
机器学习
2023-01-20 v2 密码学与安全
摘要
决策型攻击（DBA）中，攻击者仅通过观察输出标签来扰动输入以欺骗学习算法，是一类针对深度神经网络（DNNs）且所需攻击者知识最少的严重对抗攻击。依赖零阶梯度估计的现有最优 DBA 攻击需要过多查询次数。近来，贝叶斯优化（BO）在减少基于分数攻击（SBA，攻击者需观察实值概率分数作为输出）的查询次数方面展现出前景。然而，将 BO 推广至 DBA 设定并非易事，因为 DBA 中攻击者只能获得输出标签而非 BO 所需的实值分数。本文通过提出一种高效的 DBA 攻击（即 BO-DBA）弥补了这一差距。与现有方法不同，BO-DBA 通过搜索所谓的扰动方向来生成对抗样本，并将该问题表述为一个最小化扰动实值失真的 BO 问题。借助优化后的扰动生成过程，BO-DBA 比最优 DBA 技术收敛快得多。在预训练 ImageNet 分类器上的实验结果表明，BO-DBA 在 200 次查询内即可收敛，而最优 DBA 技术需超过 15,000 次查询才能达到同等扰动失真水平。即便与基于 BO 的 SBA 攻击相比，BO-DBA 也展现出相似的攻击成功率且失真更小。
引用
@article{arxiv.2106.02732,
title = {BO-DBA: Query-Efficient Decision-Based Adversarial Attacks via Bayesian Optimization},
author = {Zhuosheng Zhang and Shucheng Yu},
journal= {arXiv preprint arXiv:2106.02732},
year = {2023}
}