分布式黑盒攻击：勿高估黑盒攻击
机器学习
2025-03-18 v5
摘要
随着云计算的普及，深度学习模型被部署于云服务器上，并以 API 形式提供给终端用户。然而，黑盒对抗攻击可在无模型结构与权重访问权限的情况下欺骗图像分类模型。近期研究称，在少于 1,000 次查询下攻击成功率超过 95%。由此引出一个问题：黑盒攻击是否已对云 API 构成真实威胁？为阐明此问题，我们的研究表明，由于若干高估黑盒攻击效率的常见错误，黑盒攻击对云 API 的实际效果不如研究论文中所宣称的那般有效。为避免类似错误，我们直接在云 API 而非本地模型上实施黑盒攻击。
引用
@article{arxiv.2210.16371,
title = {Distributed Black-box Attack: Do Not Overestimate Black-box Attacks},
author = {Han Wu and Sareh Rowlands and Johan Wahlstrom},
journal= {arXiv preprint arXiv:2210.16371},
year = {2025}
}
备注
Accepted by ICLR Workshop, 2025