特征重要性引导攻击：一种模型无关的对抗攻击
机器学习
2023-01-16 v3 人工智能
密码学与安全
摘要
对抗学习的研究主要集中于同质非结构化数据集，这类数据通常能自然映射到问题空间。将异构数据集上的特征空间攻击逆映射到问题空间则更具挑战性，尤其是寻找所需扰动的任务。本工作提出一种形式化搜索策略：“特征重要性引导攻击”(Feature Importance Guided Attack, FIGA)，它在异构表格数据集的特征空间中寻找扰动以产生规避攻击。我们首先在特征空间中展示FIGA，随后在问题空间中展示。FIGA假设对防御模型的学习算法无先验知识，且不需要任何梯度信息。FIGA假设已知特征表示以及防御模型数据集的均值特征值。FIGA通过沿目标类的方向扰动输入的最重要特征来利用特征重要性排序。尽管FIGA在概念上类似于其他使用特征选择过程的工作（例如模仿攻击），我们形式化了一个具有三个可调参数的攻击算法，并研究了FIGA在表格数据集上的强度。我们通过规避在四个不同表格钓鱼数据集与一个金融数据集上训练的钓鱼检测模型来展示FIGA的有效性，平均成功率为94%。我们将FIGA扩展到钓鱼问题空间，将可能扰动限制为在钓鱼域中有效且可行的扰动。我们生成了与其未扰动对应项视觉相同的有效对抗钓鱼站点，并用它们攻击六个表格ML模型，实现了13.05%的平均成功率。
引用
@article{arxiv.2106.14815,
title = {Feature Importance Guided Attack: A Model Agnostic Adversarial Attack},
author = {Gilad Gressel and Niranjan Hegde and Archana Sreekumar and Rishikumar Radhakrishnan and Kalyani Harikumar and Anjali S. and Krishnashree Achuthan},
journal= {arXiv preprint arXiv:2106.14815},
year = {2023}
}