面向高维类别输入的高效且领域无关的规避攻击
机器学习
2022-12-15 v1 人工智能
密码学与安全
摘要
我们的工作旨在搜索可行的对抗扰动，以在领域无关设定下攻击具有高维类别输入的 classifier。这本质上是一个 NP 难背包问题，其探索空间随特征维数增加呈爆炸式增长。在无领域知识辅助时，通过启发式方法（如分支定界）求解该问题会面临指数级复杂度，且可能带来任意差的攻击结果。我们通过基于多臂老虎机的组合搜索视角应对该挑战。我们提出的方法 FEAT 将修改每个类别特征视为多臂老虎机编程中的拉臂。我们的目标是通过正交匹配追踪（OMP）增强的上置信界（UCB）探索策略实现高效且有效的攻击。我们对 FEAT 遗憾间隙的理论分析保证了其实际攻击性能。在实证分析中，我们将 FEAT 与其他最先进的领域无关攻击方法在多种不同应用的真实世界类别数据集上进行比较。大量实验观测证实了 FEAT 应用于不同应用场景时所预期的效率与攻击有效性。我们的工作进一步暗示了 FEAT 在评估具有高维类别输入的分类系统对抗脆弱性方面的适用性。
引用
@article{arxiv.2212.06836,
title = {Towards Efficient and Domain-Agnostic Evasion Attack with High-dimensional Categorical Inputs},
author = {Hongyan Bao and Yufei Han and Yujun Zhou and Xin Gao and Xiangliang Zhang},
journal= {arXiv preprint arXiv:2212.06836},
year = {2022}
}
备注
AAAI 2023