约束自适应攻击：表格数据对抗样本的真实评估与深度神经网络鲁棒训练
机器学习
2023-11-09 v1
摘要
最先进的表格数据深度学习模型近期已达到可部署于工业环境的可接受性能。然而，这些模型的鲁棒性仍鲜有探索。与计算机视觉不同，由于表格数据诸如类别特征、不可变性与特征关系约束等固有属性，迄今尚无合理评估深度表格模型对抗鲁棒性的真实协议。为填补此空白，我们提出 CAA，首个面向约束表格深度学习模型的高效规避攻击。CAA 是一种迭代无参数攻击，结合梯度与搜索攻击在约束下生成对抗样本。我们利用 CAA 构建了跨三种流行用例的深度表格模型基准：信用评分、钓鱼与僵尸网络攻击检测。我们的基准支持十种威胁模型，攻击者能力递增，并反映各用例的真实攻击场景。总体而言，我们的结果展示了领域知识、对抗训练与攻击预算如何影响深度表格模型的鲁棒性评估，并为安全从业者提供一组改进深度表格模型针对各类规避攻击场景鲁棒性的建议。
引用
@article{arxiv.2311.04503,
title = {Constrained Adaptive Attacks: Realistic Evaluation of Adversarial Examples and Robust Training of Deep Neural Networks for Tabular Data},
author = {Thibault Simonetto and Salah Ghamizi and Antoine Desjardins and Maxime Cordy and Yves Le Traon},
journal= {arXiv preprint arXiv:2311.04503},
year = {2023}
}