HopSkipJumpAttack：一种查询高效的决策型攻击
机器学习
2020-04-29 v5 密码学与安全
最优化与控制
机器学习
摘要
对训练模型的决策型对抗攻击旨在仅通过观测目标模型返回的输出标签来生成对抗样本。我们提出 HopSkipJumpAttack，一类基于在决策边界处利用二元信息对梯度方向进行新颖估计的算法族。该算法族包含分别针对 与 相似度度量优化的无目标与有目标攻击。我们对所提算法及梯度方向估计提供了理论分析。实验表明 HopSkipJumpAttack 比 Boundary Attack 所需模型查询显著更少，并在攻击若干广泛使用的防御机制中取得有竞争力的性能。（HopSkipJumpAttack 在预印本前一版本中名为 Boundary Attack++。）
引用
@article{arxiv.1904.02144,
title = {HopSkipJumpAttack: A Query-Efficient Decision-Based Attack},
author = {Jianbo Chen and Michael I. Jordan and Martin J. Wainwright},
journal= {arXiv preprint arXiv:1904.02144},
year = {2020}
}