BOSH：一种高效的决策型攻击元算法
机器学习
2019-10-15 v3 机器学习
摘要
对抗样本生成成为评估机器学习模型鲁棒性的一种可行方法。本文中，我们考虑硬标签黑盒攻击（亦称决策型攻击），这是一种基于仅一系列黑盒硬标签查询来生成对抗样本的挑战性设定。此类攻击可用于攻击离散和复杂模型，如梯度提升决策树（GBDT）和基于检测的防御模型。现有的基于迭代局部更新的决策型攻击常陷入局部极小，无法生成失真最小的优化对抗样本。为补救该问题，我们提出一种称为 BOSH-attack 的高效元算法，它通过贝叶斯优化（BO）和连续减半（SH）极大改进现有算法。特别地，我们在搜索对抗样本时不再遍历单一解路径，而是维护一个解路径池以探索重要区域。我们通过实验表明，所提算法比现有方法收敛到更好的解，且查询次数比多次随机初始化少一个数量级（因子为 10）。
引用
@article{arxiv.1909.04288,
title = {BOSH: An Efficient Meta Algorithm for Decision-based Attacks},
author = {Zhenxin Xiao and Puyudi Yang and Yuchen Jiang and Kai-Wei Chang and Cho-Jui Hsieh},
journal= {arXiv preprint arXiv:1909.04288},
year = {2019}
}